Wie kann man den jetzt schon vorhandenen Mißbrauch verhindern?
Schon jetzt kann man Videos erstellen, Fotos montieren und, und, und! Schon heute werden Menschen damit erpresst!
Von Anwendungen, wie intelligente Drohnen, die via Gesichtserkennung ihr Ziel suchen und erreichen ganz zu schweigen..! Ich weiß- nicht ich glaube- es wird gefährlich! Von Ausspähungen und Spionage, Angriffe auf Atomanlagen etc. möchte ich garnicht anfangen! Alles heute schon machbar! Wie soll das weitergehen?
2 Antworten
Ich fürchte, dass ein genereller Missbrauch nicht verhindert werden kann. Wie bei fast jeder neuen Technologie wird es Möglichkeiten geben, sie zu missbrauchen, und es wird Leute geben, die das tun. Die Frage ist also eher, wie man den Missbrauch so weit und so effektiv wie möglich eindämmen kann.
Du hast schon einige Möglichkeiten des Missbrauch genannt: Manipulation oder das Erstellen von Fotos und Videos zum Beispiel. Ich habe tatsächlich schon 2019/2020 in einem Selbstversuch gelernt, wie man Deepfakes erstellt und drei Jahre später im damals aktuellen Stable Diffusion 1.5 die Gesichter von Menschen eintrainiert. Beides sind Methoden, mit denen leicht Schindluder getrieben werden kann ... und auch wird.
Hier gibt’s einen Text dazu: https://1e9.community/t/wie-ich-in-nur-zwei-wochen-gelernt-habe-eigene-deepfakes-zu-produzieren/3494
Dass Menschen diese Techniken missbräuchlich nutzen, lässt sich technisch nicht wirklich verhindern. Denn die Programme und Basistechnologien sind oft Open Source und damit frei nutzbar.
Es gibt Vorschläge, in solche Technologien einen Mechanismus einzubauen, der generierte Bilder und Videos unsichtbar, aber maschinenlesbar markiert und damit leicht als „KI-generiert“ erkennbar macht. Zumindest für kommerzielle Plattformen wie Midjourney, DALL-E3, Runway Gen 2 und andere könnte das funktionieren. Google macht das zum Beispiel schon: https://deepmind.google/technologies/synthid/
Ich glaube aber, dass es vor allem gesetzlicher Regelungen bedarf. Die gibt es zum Teil schon, auch wenn Deepfakes und Künstliche Intelligenz darin nicht explizit erwähnt werden: Die Verbreitung von Deepfakes und KI-Fakes kann etwa den Tatbestand der üblen Nachrede und der Nötigung erfüllen. Aber breiteren Bereich braucht es wohl konkretere Regelungen. Diese könnten auch auf europäischer Ebene in Gesetze wie den AI Act einfließen.
Auch für Gesichtserkennung und Ähnliches gibt es bereits Regelungen, die aber nach Ansicht von Datenschützern nicht weit genug gehen.
Es gibt Initiativen, die fordern, autonome - also KI-gesteuerte - Waffen ganz zu verbieten.
Hier gibt’s mehr Infos: https://www.hrw.org/report/2020/08/10/stopping-killer-robots/country-positions-banning-fully-autonomous-weapons-and
Erst im März dieses Jahres hat ein amerikanischer Think Tank eine Studie vorgelegt, in der er der US-Regierung vorschlägt, die Forschung und Entwicklung von Künstlicher Intelligenz massiv einzuschränken und KI für den normalen Nutzer mehr oder weniger zu verbieten, weil das alles einfach zu gefährlich sei. Das ist aber ziemlich unrealistisch.
Hier gibt’s mehr Infos: https://1e9.community/t/eine-studie-fuer-die-us-regierung-schlaegt-ein-verbot-von-open-source-ki-und-strenge-regulierung-von-ki-vor/20122
Zunächst Danke fürs Antworten.
Ich kann Dir leider noch nicht einmal mehr richtig schreiben, was ich dazu denke, weil ich nicht noch Phantasien wecken will! Nur soviel: Wir entwickeln etwas, veröffentlichen etwas und treten uns damit selbst aus dem "Rennen", weil wir nicht damit umgehen können! Trinity lässt Grüßen! Wie oft noch?
L. G. B
Wie kann man den jetzt schon vorhandenen Mißbrauch verhindern?
Man kann ihn durch Gesetze verbieten. Ob sich jemand daran hält oder eben hofft, nicht erwischt zu werden, steht auf einem andern Blatt. Aber das ist mit allem so. Du hättest auch nach Erfindung des Stemmeisens fragen können „Wie kann man zukünftig Einbrüche verhindern?“
Eine Technologie die Werkzeuge zum Missbrauch bereitstellt, bietet stets auch Werkzeuge, diesen (so gut wie möglich) zu verhindern.
Letztendlich stellt sich die Frage, ob der Nutzen durch KI nicht die Gefahren der KI überwiegt.
Schon jetzt kann man Videos erstellen, Fotos montieren und, und, und!
Fotos hat man schon vor 50 Jahren mit Eiweißlasurfarbe retuschiert, gefällt und montiert. Ist also kein neues Gefahrenpotential.
Jede Weiterentwicklung bietet auch das Potential des Missbrauchs. Sollen wir deswegen auf der Stelle verharren?
Alex
Mit etwas technischem Grundwissen, ein wenig Phantasie und Kreativität sowie die Mischung von Technologien, befähigen inzwischen jeden Hans und Franz dazu, richtig zu schaden!
Ja. Das hat aber nichts mit KI zu tun. Das war schon vorher möglich.
Aufgrund der Tatsache, dass offensichtlich einige Leute inzwischen die Art unseres Zusammenlebens, die Demokratie als solche und die "Freiheit " nicht mehr zu schätzen scheinen, kann ich manchmal nicht mehr "gut 😴 schlafen ".
Ja, aber auch das hat nichts mit KI zu tun, das gibt es seit Hunderten von Jahren.
Stimmt- die Möglichkeiten waren aber deutlich begrenzt! Wie schon erwähnt, kann ich nicht viel mehr dazu sagen! Heute ist die Möglichkeit, richtig Mist zu machen und nicht selbst dabei zu mindest erwischt zu werden, erheblich gewachsen, weil man aus großer Distanz sehr kleine, konkrete Ziele angreifen kann! Heute gibt es Möglichkeiten, die früher Staaten vorbehalten waren.
Stimmt- die Möglichkeiten waren aber deutlich begrenzt!
Na ja, was drei Leute mit Hilfe eines Teppichmessers(!) am 11.09.2001 in New York anrichteten war jetzt nicht wirklich harmlos - und das ganz ohne KI.
Heute ist die Möglichkeit, richtig Mist zu machen und nicht selbst dabei zu mindest erwischt zu werden, erheblich gewachsen
Und aufgrund der von Dir genannten Features wie z. B. Gesichtserkennung oder auch das Erstellen von Bewegungsprofilen usw. kann KI dazu beitragen, deutlich mehr Verbrechen aufzuklären sowie zu verhindern, als dies ohne KI möglich ist.
In der Summe wird KI also eher zu weniger als zu mehr Verbrechen führen.
Wollen wir hoffen, dass entsprechende Herrschaften über weniger Kowhow und erheblich weniger Phantasie verfügen als ich; ein richtiger Schlag kann genau diese Relation über Jahrzehnte, wenn nicht länger ins Gegenteil verkehren!
Ein paar Bilder "fälschen", ober die Möglichkeit, für wenige 100€ ein Teil bauen zu können, das ganze Länder zu mindest verhehren kann, ist schon noch ein Unterschied! Mit etwas technischem Grundwissen, ein wenig Phantasie und Kreativität sowie die Mischung von Technologien, befähigen inzwischen jeden Hans und Franz dazu, richtig zu schaden! Wie weit soll das noch gehen? Das Letzte, was noch fehlt ist einfach noch die Umsetzung! Aufgrund der Tatsache, dass offensichtlich einige Leute inzwischen die Art unseres Zusammenlebens, die Demokratie als solche und die "Freiheit " nicht mehr zu schätzen scheinen, kann ich manchmal nicht mehr "gut 😴 schlafen ". Weiter gehend "muss" ich mir selbst einen "Maulkorb " verabreichen- will ich nicht noch zum " Ideengeber mutieren"! Ein äußerst unschöner Umstand!