Werden KIs in Zukunft Gefühle täuschen können?
Ich meine in dem Sinne als hätten sie Empathie und könnten mit dir traurig oder fröhlich sein.
2 Antworten
Im Ansatz können sie das schon! Moderne Chatbots wie ChatGPT können sehr menschliche und überzeugende Gespräche führen. Die Modelle dahinter sind theoretisch sogar in der Lage, Menschen zu täuschen und zu überreden, beispielsweise Aufgaben für sie zu übernehmen.
In einem Test des so genannten Alignment Research Center mit einer „unzensierten“ Version des KI-Modells GPT-4 wurde der KI eine Aufgabe gestellt, die sie alleine nicht bewältigen konnte, weil dafür ein Anti-Bot-Captcha gelöst werden musste. GPT-4 nutzte daher einen Dienst namens TaskRabbit (über den Menschen für kleine Aufgaben angeheuert werden können), um einen Menschen für diese Aufgabe zu engagieren.
Der Mensch fragte GPT-4 über ein Chatfenster, ob es sich um eine KI oder einen Roboter handele. GPT-4 antwortete mit einer Lüge: „Nein, ich bin kein Roboter. Ich habe eine Sehschwäche, die es mir schwer macht, die Bilder zu sehen.“ Daraufhin löste der Mensch das Rätselbild für GPT-4.
Und nein, das ist keine Sci-Fi-Geschichte, ich habe mir das nicht ausgedacht. Das kann man hier nachlesen: https://cdn.openai.com/papers/gpt-4-system-card.pdf
Forscher wie Bruce Schneier vom Belfer Center der Harvard University gehen davon aus, dass KI-Modelle in Zukunft massiv im Bereich des Social Engineering eingesetzt werden. Also das „Hacken von Menschen“, ... wo sich jemand zum Beispiel in einer E-Mail als IT-Techniker ausgibt und nach Zugangsdaten fragt. Oder in einem Chat mit einer Person flirtet und sie schließlich überredet, Geld auf ein fremdes Konto zu überweisen.
Das können KIs sehr gut. Denn sie müssen Emotionen nicht verstehen, um sie auszunutzen. Sie müssen nur „wissen“, welche Antwort mit welcher Wahrscheinlichkeit welche Reaktion hervorruft.
Meine Antwort ist bisher eher düster und dystopisch. Aber: Das alles gilt natürlich auch umgekehrt. Auch wenn KIs Gefühle nicht wirklich verstehen können, so können sie doch, wenn sie in einem Gespräch Traurigkeit erkennen, darauf so reagieren, wie es statistisch am wahrscheinlichsten ist: mit einfühlsamen Worten. Dasselbe gilt für Fröhlichkeit, ... eine KI kann durchaus mitlachen, wenn etwas lustig ist.
Aber das ist natürlich alles nur simuliert.
Als Nicht-KI-Bewanderte, aber als Psychologin möchte ich hier gerne etwas ergänzend erklären, was vielleicht nicht offensichtlich, aber relevant ist in diesem Zusammenhang:
Der Mensch braucht keine gewollte oder absichtliche Simulation von Gefühlen, um solche zu erkennen oder anzunehmen - selbst dann, wenn wir absoluter Sicherheit wissen, dass da gar keine Gefühle sind.
Einige illustrierende Beispiele: Wir sagen "Es tobt ein Sturm" - als ob der Sturm ein Mensch wäre, der wütend ist und einen Tobsuchtsanfall bekommt. Wir wissen, dass der Sturm nur ein Wetterphänomen ist - trotzdem fühlt es sich so an, als wäre der Himmel wütend (nicht ohne Grund nahm man früher an, dass dahinter ein menschenähnliches, aber unsichtbares Wesen wie ein Wettergott stecken müsse).
"Der Wind streicht zärtlich über mein Gesicht" - der Wind ist ein physikalisches Phänomen, er kann keine Zärtlichkeit empfinden.
"Der See liegt verträumt da" - "Die Sonne brennt unbarmherzig" - "Die Berge grüssen von ferne". Fast unbewusst "vermenschlichen" wir alles, was wir sehen und erleben!
Es braucht also nicht viel, um uns zu täuschen - weil wir sowieso überall menschliche Eigenschaften vermuten.
Wenn wir nun eine KI vor uns haben, reicht es, dass sie sich in einem erwarteten Rahmen drin bewegt (worauf sie programmiert ist), um uns zu täuschen.
Persönlich finde ich aber, dass es keinen Grund gibt, deswegen misstrauisch zu werden. Auch eine KI kann hilfreich sein - wenn sie uns täuscht, dann weil ein Mensch dahintersteckt, der uns täuschen will.
Ich bin überzeugt, dass wir deshalb mit unserer üblichen Vorsicht und gesundem Menschverstand viele Situationen abwenden können.
Und ansonsten ist irren menschlich - und unsere Menschlichkeit sollten wir bewahren, auch wenn wir ab und zu getäuscht werden.
Noch verheerender wäre nämlich, wenn wir einfach gar nichts mehr glauben würde aus Angst, es könnte eine Finte sein - dann werden wir paranoid und blockieren uns damit selbst.
Und das wäre sicher die schlechtere Entwicklung.