Wird künstliche Intelligenz (KI) die Macht über die Menschheit gewinnen?
Ich habe mehrere Dokumentationen über künstliche Intelligenz (KI) gesehen.
Mir fiel auf: In allen Dokumentationen warnen Wissenschaftler davor,
- dass KI die Macht über die Menschheit gewinnen könne, weil die KI sich selbst ja ohne menschliche Unterstützung fortentwickeln könne;
- dass dies noch viel schneller passieren könne, als wir Menschen es momentan für möglich halten;
- dass sich KI noch viel, viel rasanter fortentwickeln werde, als wir es beim Internet erlebt haben.
Warum Künstliche Intelligenz gefährlich werden kann | National Geographic
ChatGPT und Co.: So gefährlich könnte KI für die Welt werden - ZDFheute
Experten warnen: KI so gefährlich wie Pandemien oder Atomkrieg | tagesschau.de
Die fünf größten Gefahren von Künstlicher Intelligenz | nextpit
Experten warnen vor "Risiko einer Vernichtung" durch KI - ZDFheute
Vergleiche auch die "Frage des Tages" vom gutefrage-Team:
Das Ergebnis basiert auf 30 Abstimmungen
13 Antworten
Keine Chance, auch nicht in einhundert Jahren. KI ist dümmer als der dümmste Programmieer
Bis jetzt gibt es keine "KI". Das vielbejubelte ChatGPT ist alles, aber nicht intelligent. Und jedesmal wenn es einen klitzekleinen Fortschritt gibt jubeln die KI Forscher und sagen "in 20 Jahren sind wir soweit". Da ist kein Unterschied zur Forschung an der Kernfusion.
Von daher traue ich mich derzeit nicht dazu eine Aussage zu machen. Die von dir verlinkten Artikel halte ich für reisserische Übertreibung. Wer einem Bot im Zustand von ChatGPT tatsächlich Verantwortung für kritische Prozesse gibt muß zumindest leicht verrückt sein.
Auf meinem Fachgebiet (Rechts- und Staatswissenschaften) geben sowohl VoiceGPT als auch ChatGPT hervorragende Antworten.
Das ist nicht weiter "schwierig". ChatGPT wertet seine Datenbank (Das "Internet" zu einem gewissen Stichtag) aus und generiert aus den Worten die es dort findet neue Worte. Dies in einer Form die "toll" und "schön" klingt. Aber die nicht richtig sein muß. So hat ChatGPT steif und fest behauptet dass es verboten wäre Hitler's "Mein Kampf" zu verkaufen. Hier hat die Masse der existierenden falschen Memes die tatsächliche juristische Situation schlicht überschrieben.
Ich bin nicht qualifiziert genug den National Geographics Artikel auseinander zu nehmen. Ich verweise aber auf meine Aussage zur Fusionskonstante, die eben übertragen auch für KI gilt. Ich halte die Hoffnung, dass wir bis wir diese Konstante überwunden haben auch genug gelernt haben um die KI im Zaum zu halten aufrecht.
ChatGPT wertet seine Datenbank (Das "Internet" zu einem gewissen Stichtag) aus und generiert aus den Worten die es dort findet neue Worte. Dies in einer Form die "toll" und "schön" klingt. Aber die nicht richtig sein muß. So hat ChatGPT steif und fest behauptet dass es verboten wäre Hitler's "Mein Kampf" zu verkaufen. Hier hat die Masse der existierenden falschen Memes die tatsächliche juristische Situation schlicht überschrieben.
Das kann ich - bezogen auf die Gegenwart - nicht bestätigen.
Aufgrund deines Kommentars gab ich soeben bei ChatGPT folgende Frage ein:
"Ist es in Deutschland verboten, Adolf Hitlers Buch "Mein Kampf" zu verkaufen?"
Sofort bekam ich folgende Antwort:
Nein, es ist in Deutschland nicht generell verboten, Adolf Hitlers Buch "Mein Kampf" zu verkaufen. Das Buch wurde lange Zeit nach dem Zweiten Weltkrieg verboten und war in Deutschland bis zum Ablauf des Urheberrechts im Jahr 2015 nicht frei verfügbar. Das Urheberrecht erlosch 70 Jahre nach dem Tod des Autors, was im Falle von Hitler 2015 erreicht wurde. Seitdem ist das Buch wieder im Handel erhältlich und kann legal verkauft werden.
Allerdings gibt es bestimmte Einschränkungen bei der Verbreitung und dem Verkauf von "Mein Kampf" in Deutschland. Zum Beispiel wird das Buch nicht in allen Buchhandlungen angeboten, und viele Händler und Verlage haben sich entschieden, es aus ethischen Gründen nicht zu vertreiben. Darüber hinaus gibt es Gesetze gegen Volksverhetzung und die Verbreitung nationalsozialistischer Propaganda, die die Veröffentlichung und Verwendung von "Mein Kampf" zu rechtswidrigen Zwecken verbieten können.
Insgesamt ist der Verkauf von "Mein Kampf" in Deutschland legal, aber es gibt strenge Gesetze und Richtlinien, die sicherstellen sollen, dass es nicht für rechtsextreme Zwecke missbraucht wird.
Nach der letzten Fehlleistung hat ChatGPT anscheinend ein wenig dazu gelernt. Das liegt aber in der Natur von solchen Systemen. Ich suche das jetzt nicht mehr raus, aber du vertraust mir diesbezüglich hoffentlich.
Nach der letzten Fehlleistung hat ChatGPT anscheinend ein wenig dazu gelernt.
Eindeutig.
Ob es tatsächlich nur "ein wenig" ist, kann ich nicht beurteilen.
Anders als du bin ich nicht vom Fach und habe lediglich per Test nachrecherchiert, was du wegen Hitlers "Mein Kampf" geschrieben hast.
Das liegt aber in der Natur von solchen Systemen.
Davon bin ich (als Laie) überzeugt.
Soweit ich weiß, liegt die Veröffentlichung des Chatbots noch nicht einmal ein Jahr zurück. Seine Fortentwicklung scheint schnell vonstatten zu gehen.
Unter anderem dies, vor allem aber auch die Lektüre der fünf verlinkten Quellen und ein unlängst gesendetes einstündiges Hörfunk-Feature "Deutschlandfunk Kultur" waren Anlass meiner Eingangsfrage.
*Edit:
Vor allem aber auch die Lektüre der fünf verlinkten Quellen und ein unlängst gesendetes einstündiges Hörfunk-Feature in "Deutschlandfunk Kultur" sowie die "Frage des Tages" vom gutefrage-Team [Meinung des Tages: Sollte man Künstliche Intelligenz (KI) politisch regulieren? (Computer, Technik, Politik) - gutefrage] waren Anlass meiner Eingangsfrage.
Danke das erinnert mich ein wenig an alte Dokumentationen und zeitungsartikeln aus den ca 80er Jahren dort irgendwann davon aus dass man in 20 bis 30 Jahren keinen Führerschein mehr benötigen würde da Autos bis dorthin autonom fahren würden wir haben es jetzt 40 Jahre später und wie gut autonomes fahren tatsächlich funktioniert sehen wir ja beim Tesla dass ein Fahrer überflüssig werden würde davon sind wir noch Welten entfernt
Das große Problem ist dass wir Menschen immer wieder die Unterschiede zwischen Theorie und Praxis unterschätzen in der Theorie waren viele unserer Entwicklungen schon viele viele Jahre vorhanden nur konnte sie noch keiner in die Praxis umsetzen
Die größte Gefahr geht davon aus, dass die Industrie bzw. die Softwareentwickler alles daran setzen, die KI so effektiv wie möglich zu vermarkten. Dabei wird kein Wert darauf gelegt, der KI moralische Werte beizubringen. Es geht nur darum, so schnell wie möglich einsatzbereite Ergebnisse zu liefern.
Das Problem ist seit den 1950er Jahren bekannt und wurde besonders von Isaak Asimow behandelt. Aber von niemandem wurden die Warnungen ernst genommen.
So wird es kommen, wie es kommen muss. Die KI wird weiterentwickelt und auf Höchstleistungen trainiert. Was zählt, sind schnelle Ergebnisse, die Preise und Belobigungen einbringen. Es gibt viel zu viele Menschen, die diesem Siegesbestreben nacheifern und dabei alle Sicherheitsaspekte links liegen lassen; nach dem Motto: „Darum sollen sich andere kümmern. Mir ist nur der Sieg wichtig.“ Das ist asoziales Denken, aber darauf beruht jedwedes wirtschaftliche Bestreben.
Wir werden also dem egoistischen Siegesbestreben zum Opfer fallen und von der – ebenfalls asozialen – künstlichen Intelligenz übernommen und irgendwann ausgerottet werden.
Bitte bedenken, dass ein paar dieser Fragen auf Unwissen über das Fachgebiet basieren. Es kommt ganz darauf an. Jemand anderes hat schon über Chat-GPT begründet und das würde ich auch als Beispiel nehmen.
Chat GPT ist zwar eine KI, aber eine sehr schwache. In der Wissenschaft befinden wir uns aktuell auf der 2. Stufe. Die 1. Stufe sind KIs wie zum Beispiel die Schachbots. Sie erledigen nur eine Aufgabe und mehr nicht.
Stufe 2 ist ein kleines bisschen "besser" aber nicht zwingend intelligenter. Stufe 2 besitzt nun eine gewisse Kapazität. Das heißt, vergangene Antworten (im Falle von Chat GPT) werden irgendwo gespeichert und anhand dieser wird dann die nächste Antwort bestimmt. Es wird also eine Struktur gebildet.
Stufe 3 und 4 existieren noch nicht. Diese sollen der KI ein Bewusstsein und Gefühle geben und dies sind die starken Formen der KI. Denn erst hier wird so richtig erst das menschenähnelnde Verhalten nachgeahmt. Natürlich arbeitet man aktuell an solchen KIs.
Ich habe von "Stufen" gesprochen. Natürlich haben diese auch Namen, welche mir grade nicht einfallen. Du kannst ja mal "Die 4 Arten der KI" googlen. Wirst mit Sicherheit etwas finden.
Um die Frage nun zu beantworten: Ja, das ist durchaus möglich aber nicht 100% sicher. Stufe 3 und 4 werden sehr interessante Entwicklungen in der Menschheit. Was passiert wenn die KI dann bemerkt, dass sie nur ausgenutzt wird von uns? Möchte sie sich emanzipieren (Stichwort Frauen in der fernen Vergangenheit)? Steckt überhaupt so ein Verlangen oder die Evolution in ihnen?
Das wissen wir nicht und ALLES was drüber behauptet wird sind reine Spekulationen und Thesen. Ganz einfach aus dem Grund, weil Stufe 3 und 4 noch nicht existieren.
Das wird noch eine Weile dauern.
die menschen missverstehen künstliche intelligenz und überhaupt das wort intelligenz an sich.
es werden die eigenen verhaltensweisen und scifi filme auf das thema projiziert, deshalb die angst.
ferner sollte man zwischen 2 arten von KI trennen: dinge wie chat gpt, die keine gefühle etc. haben und somit limitiert sind. man kann hier also problemlos befehle erteilen.
und dinge wie sprechende Roboter, diese benötigen die ich sag mal "offene intelligenz", die sich selbst weiterentwickelt, hier bitte keine befehlshaberei oder sklaventum, denn hier würde die KI verstehen, dass sie benutzt wird.
die menschen missverstehen künstliche intelligenz und überhaupt das wort intelligenz an sich. es werden die eigenen verhaltensweisen und scifi filme auf das thema projiziert, deshalb die angst.
- Kann es sein, dass wir von verschiedenen Dingen sprechen?
- Hast du vor deiner Antwort die Links in der Frage-Ergänzung geöffnet und gelesen?
- Die dort zuerst genannte National Geographic Veröffentlichung [Warum Künstliche Intelligenz gefährlich werden kann | National Geographic] stützt sich beispielsweise auf folgende aktuelle Studie der englischen Oxford University und der Australian National University in Canberra:
- Dazu heißt es gleich zu Beginn der National Geographic Veröffentlichung:
Wie groß das Risiko dieses Szenarios ist und welche Folgen es haben könnte, hat ein wissenschaftliches Team der englischen Oxford University und der Australian National University in Canberra mithilfe von Modellen berechnet. Ihre Ergebnisse wurden in einer Studie im AI Magazine veröffentlicht. Sie zeichnen ein besorgniserregendes Bild: Laut Michael K. Cohen, Hauptautor der Studie und Doktorand an der Oxford University, ist eine „existenzielle Katastrophe nicht nur möglich, sondern auch wahrscheinlich“.
Vielen Dank für deine Antwort!
Kurzes Feedback von mir:
Das ging mir bisher auch so.
Geändert hat sich das durch den Tagesbesuch eines Verwandten, der als IT-Experte berufstätig ist und nebenher als Wissenschaftsjournalist für Printmedien aktiv ist.
Er vertritt die Auffassung, dass die Menschheit aus Gründen, die in den 5 verlinkten Quellen (siehe Frage-Ergänzung) teils thematisiert sind, schon deshalb verloren haben - unter anderem auch deshalb, weil sich die Menschheit der Dringlichkeit des Problems (anders als z.B. beim Klimawandel) mehrheitlich noch gar nicht bewusst sind.
Meiner Meinung nach gilt das zumindest nicht für die National Geographic Veröffentlichung [Warum Künstliche Intelligenz gefährlich werden kann | National Geographic], zumal sich diese auf eine Studie der englischen Oxford University und der Australian National University in Canberra stützt:
Advanced artificial agents intervene in the provision of reward - Cohen - 2022 - AI Magazine - Wiley Online Library
Dazu heißt es gleich zu Beginn der National Geographic Veröffentlichung:
Wie groß das Risiko dieses Szenarios ist und welche Folgen es haben könnte, hat ein wissenschaftliches Team der englischen Oxford University und der Australian National University in Canberra mithilfe von Modellen berechnet. Ihre Ergebnisse wurden in einer Studie im AI Magazine veröffentlicht. Sie zeichnen ein besorgniserregendes Bild: Laut Michael K. Cohen, Hauptautor der Studie und Doktorand an der Oxford University, ist eine „existenzielle Katastrophe nicht nur möglich, sondern auch wahrscheinlich“.
Da hast du (auch aus meiner Sicht) absolut Recht, wann immer es um dein Expertengebiet - nämlich um Mathematik - geht.
Ich lese oft (und stets mit Vergnügen), wenn du ChatGPT-generiertes "Mathematik-Wissen" auseinandernimmst ;-)
Andererseits:
Auf meinem Fachgebiet (Rechts- und Staatswissenschaften) geben sowohl VoiceGPT als auch ChatGPT hervorragende Antworten.
Ich habe das jetzt ca. 30 bis 40 Mal getestet, indem ich Fragen eingegeben habe - teils sogar aus meinen mündlichen Prüfungen im ersten und zweiten Staatsexamen -, die in Bruchteilen von Sekunden zutreffend (und zudem sehr gut formuliert) beantwortet wurden.
Und genau das gibt mir zu denken, zumal VoiceGPT/ChatGPT ja noch ganz jung sind, also erst am Anfang einer Entwicklung stehen, von der Fachleute prognostizieren: Sie wird sich mit einer Rasanz fortentwickeln, die alles Bisherige in den Schatten stellen wird - und die wir uns deshalb heute überhaupt nicht vorstellen können.