Wird künstliche Intelligenz (KI) die Macht über die Menschheit gewinnen?
Ich habe mehrere Dokumentationen über künstliche Intelligenz (KI) gesehen.
Mir fiel auf: In allen Dokumentationen warnen Wissenschaftler davor,
- dass KI die Macht über die Menschheit gewinnen könne, weil die KI sich selbst ja ohne menschliche Unterstützung fortentwickeln könne;
- dass dies noch viel schneller passieren könne, als wir Menschen es momentan für möglich halten;
- dass sich KI noch viel, viel rasanter fortentwickeln werde, als wir es beim Internet erlebt haben.
Warum Künstliche Intelligenz gefährlich werden kann | National Geographic
ChatGPT und Co.: So gefährlich könnte KI für die Welt werden - ZDFheute
Experten warnen: KI so gefährlich wie Pandemien oder Atomkrieg | tagesschau.de
Die fünf größten Gefahren von Künstlicher Intelligenz | nextpit
Experten warnen vor "Risiko einer Vernichtung" durch KI - ZDFheute
Vergleiche auch die "Frage des Tages" vom gutefrage-Team:
30 Stimmen
13 Antworten
Keine Chance, auch nicht in einhundert Jahren. KI ist dümmer als der dümmste Programmieer
Bis jetzt gibt es keine "KI". Das vielbejubelte ChatGPT ist alles, aber nicht intelligent. Und jedesmal wenn es einen klitzekleinen Fortschritt gibt jubeln die KI Forscher und sagen "in 20 Jahren sind wir soweit". Da ist kein Unterschied zur Forschung an der Kernfusion.
Von daher traue ich mich derzeit nicht dazu eine Aussage zu machen. Die von dir verlinkten Artikel halte ich für reisserische Übertreibung. Wer einem Bot im Zustand von ChatGPT tatsächlich Verantwortung für kritische Prozesse gibt muß zumindest leicht verrückt sein.
Auf meinem Fachgebiet (Rechts- und Staatswissenschaften) geben sowohl VoiceGPT als auch ChatGPT hervorragende Antworten.
Das ist nicht weiter "schwierig". ChatGPT wertet seine Datenbank (Das "Internet" zu einem gewissen Stichtag) aus und generiert aus den Worten die es dort findet neue Worte. Dies in einer Form die "toll" und "schön" klingt. Aber die nicht richtig sein muß. So hat ChatGPT steif und fest behauptet dass es verboten wäre Hitler's "Mein Kampf" zu verkaufen. Hier hat die Masse der existierenden falschen Memes die tatsächliche juristische Situation schlicht überschrieben.
Ich bin nicht qualifiziert genug den National Geographics Artikel auseinander zu nehmen. Ich verweise aber auf meine Aussage zur Fusionskonstante, die eben übertragen auch für KI gilt. Ich halte die Hoffnung, dass wir bis wir diese Konstante überwunden haben auch genug gelernt haben um die KI im Zaum zu halten aufrecht.
ChatGPT wertet seine Datenbank (Das "Internet" zu einem gewissen Stichtag) aus und generiert aus den Worten die es dort findet neue Worte. Dies in einer Form die "toll" und "schön" klingt. Aber die nicht richtig sein muß. So hat ChatGPT steif und fest behauptet dass es verboten wäre Hitler's "Mein Kampf" zu verkaufen. Hier hat die Masse der existierenden falschen Memes die tatsächliche juristische Situation schlicht überschrieben.
Das kann ich - bezogen auf die Gegenwart - nicht bestätigen.
Aufgrund deines Kommentars gab ich soeben bei ChatGPT folgende Frage ein:
"Ist es in Deutschland verboten, Adolf Hitlers Buch "Mein Kampf" zu verkaufen?"
Sofort bekam ich folgende Antwort:
Nein, es ist in Deutschland nicht generell verboten, Adolf Hitlers Buch "Mein Kampf" zu verkaufen. Das Buch wurde lange Zeit nach dem Zweiten Weltkrieg verboten und war in Deutschland bis zum Ablauf des Urheberrechts im Jahr 2015 nicht frei verfügbar. Das Urheberrecht erlosch 70 Jahre nach dem Tod des Autors, was im Falle von Hitler 2015 erreicht wurde. Seitdem ist das Buch wieder im Handel erhältlich und kann legal verkauft werden.
Allerdings gibt es bestimmte Einschränkungen bei der Verbreitung und dem Verkauf von "Mein Kampf" in Deutschland. Zum Beispiel wird das Buch nicht in allen Buchhandlungen angeboten, und viele Händler und Verlage haben sich entschieden, es aus ethischen Gründen nicht zu vertreiben. Darüber hinaus gibt es Gesetze gegen Volksverhetzung und die Verbreitung nationalsozialistischer Propaganda, die die Veröffentlichung und Verwendung von "Mein Kampf" zu rechtswidrigen Zwecken verbieten können.
Insgesamt ist der Verkauf von "Mein Kampf" in Deutschland legal, aber es gibt strenge Gesetze und Richtlinien, die sicherstellen sollen, dass es nicht für rechtsextreme Zwecke missbraucht wird.
Nach der letzten Fehlleistung hat ChatGPT anscheinend ein wenig dazu gelernt. Das liegt aber in der Natur von solchen Systemen. Ich suche das jetzt nicht mehr raus, aber du vertraust mir diesbezüglich hoffentlich.
Nach der letzten Fehlleistung hat ChatGPT anscheinend ein wenig dazu gelernt.
Eindeutig.
Ob es tatsächlich nur "ein wenig" ist, kann ich nicht beurteilen.
Anders als du bin ich nicht vom Fach und habe lediglich per Test nachrecherchiert, was du wegen Hitlers "Mein Kampf" geschrieben hast.
Das liegt aber in der Natur von solchen Systemen.
Davon bin ich (als Laie) überzeugt.
Soweit ich weiß, liegt die Veröffentlichung des Chatbots noch nicht einmal ein Jahr zurück. Seine Fortentwicklung scheint schnell vonstatten zu gehen.
Unter anderem dies, vor allem aber auch die Lektüre der fünf verlinkten Quellen und ein unlängst gesendetes einstündiges Hörfunk-Feature "Deutschlandfunk Kultur" waren Anlass meiner Eingangsfrage.
*Edit:
Vor allem aber auch die Lektüre der fünf verlinkten Quellen und ein unlängst gesendetes einstündiges Hörfunk-Feature in "Deutschlandfunk Kultur" sowie die "Frage des Tages" vom gutefrage-Team [Meinung des Tages: Sollte man Künstliche Intelligenz (KI) politisch regulieren? (Computer, Technik, Politik) - gutefrage] waren Anlass meiner Eingangsfrage.
Danke das erinnert mich ein wenig an alte Dokumentationen und zeitungsartikeln aus den ca 80er Jahren dort irgendwann davon aus dass man in 20 bis 30 Jahren keinen Führerschein mehr benötigen würde da Autos bis dorthin autonom fahren würden wir haben es jetzt 40 Jahre später und wie gut autonomes fahren tatsächlich funktioniert sehen wir ja beim Tesla dass ein Fahrer überflüssig werden würde davon sind wir noch Welten entfernt
Das große Problem ist dass wir Menschen immer wieder die Unterschiede zwischen Theorie und Praxis unterschätzen in der Theorie waren viele unserer Entwicklungen schon viele viele Jahre vorhanden nur konnte sie noch keiner in die Praxis umsetzen
Nein, natürlich nicht, da KI einen Menschen die ganz ersetzen kann.
Die größte Gefahr geht davon aus, dass die Industrie bzw. die Softwareentwickler alles daran setzen, die KI so effektiv wie möglich zu vermarkten. Dabei wird kein Wert darauf gelegt, der KI moralische Werte beizubringen. Es geht nur darum, so schnell wie möglich einsatzbereite Ergebnisse zu liefern.
Das Problem ist seit den 1950er Jahren bekannt und wurde besonders von Isaak Asimow behandelt. Aber von niemandem wurden die Warnungen ernst genommen.
So wird es kommen, wie es kommen muss. Die KI wird weiterentwickelt und auf Höchstleistungen trainiert. Was zählt, sind schnelle Ergebnisse, die Preise und Belobigungen einbringen. Es gibt viel zu viele Menschen, die diesem Siegesbestreben nacheifern und dabei alle Sicherheitsaspekte links liegen lassen; nach dem Motto: „Darum sollen sich andere kümmern. Mir ist nur der Sieg wichtig.“ Das ist asoziales Denken, aber darauf beruht jedwedes wirtschaftliche Bestreben.
Wir werden also dem egoistischen Siegesbestreben zum Opfer fallen und von der – ebenfalls asozialen – künstlichen Intelligenz übernommen und irgendwann ausgerottet werden.
Das setzt voraus dass die KI
- Ein "ich" hätte
- Dafür einen "Vorteil" erreichen "wollte"
- Den Menschen als "Konkurrenz" erkennen würde
- "Wissen" wie man diesen "bekämpft"
- Die Fähigkeit haben sowas auch umzusetzen
...das sind Skynet-Dystopien...
...mehr nicht...
Warum sollte eine KI das tun? Das Fussvolk das die Stromrechnung bezahlt Hops nehmen? ;o)
Vielen Dank für deine Antwort!
Kurzes Feedback von mir:
Das ging mir bisher auch so.
Geändert hat sich das durch den Tagesbesuch eines Verwandten, der als IT-Experte berufstätig ist und nebenher als Wissenschaftsjournalist für Printmedien aktiv ist.
Er vertritt die Auffassung, dass die Menschheit aus Gründen, die in den 5 verlinkten Quellen (siehe Frage-Ergänzung) teils thematisiert sind, schon deshalb verloren haben - unter anderem auch deshalb, weil sich die Menschheit der Dringlichkeit des Problems (anders als z.B. beim Klimawandel) mehrheitlich noch gar nicht bewusst sind.
Meiner Meinung nach gilt das zumindest nicht für die National Geographic Veröffentlichung [Warum Künstliche Intelligenz gefährlich werden kann | National Geographic], zumal sich diese auf eine Studie der englischen Oxford University und der Australian National University in Canberra stützt:
Advanced artificial agents intervene in the provision of reward - Cohen - 2022 - AI Magazine - Wiley Online Library
Dazu heißt es gleich zu Beginn der National Geographic Veröffentlichung:
Wie groß das Risiko dieses Szenarios ist und welche Folgen es haben könnte, hat ein wissenschaftliches Team der englischen Oxford University und der Australian National University in Canberra mithilfe von Modellen berechnet. Ihre Ergebnisse wurden in einer Studie im AI Magazine veröffentlicht. Sie zeichnen ein besorgniserregendes Bild: Laut Michael K. Cohen, Hauptautor der Studie und Doktorand an der Oxford University, ist eine „existenzielle Katastrophe nicht nur möglich, sondern auch wahrscheinlich“.
Da hast du (auch aus meiner Sicht) absolut Recht, wann immer es um dein Expertengebiet - nämlich um Mathematik - geht.
Ich lese oft (und stets mit Vergnügen), wenn du ChatGPT-generiertes "Mathematik-Wissen" auseinandernimmst ;-)
Andererseits:
Auf meinem Fachgebiet (Rechts- und Staatswissenschaften) geben sowohl VoiceGPT als auch ChatGPT hervorragende Antworten.
Ich habe das jetzt ca. 30 bis 40 Mal getestet, indem ich Fragen eingegeben habe - teils sogar aus meinen mündlichen Prüfungen im ersten und zweiten Staatsexamen -, die in Bruchteilen von Sekunden zutreffend (und zudem sehr gut formuliert) beantwortet wurden.
Und genau das gibt mir zu denken, zumal VoiceGPT/ChatGPT ja noch ganz jung sind, also erst am Anfang einer Entwicklung stehen, von der Fachleute prognostizieren: Sie wird sich mit einer Rasanz fortentwickeln, die alles Bisherige in den Schatten stellen wird - und die wir uns deshalb heute überhaupt nicht vorstellen können.