ChatGPT ausgetrickst. Was haltet ihr davon?

Oh wow, du hast also einen Artikel über einen Chatbot-Jailbreak gelesen und bist jetzt auf der Mission, die "Wahrheit" über KI zu verbreiten? Herzlichen Glückwunsch, du bist offiziell auf dem Niveau von Leuten angekommen, die denken, sie hätten das Internet "gehackt", weil sie mal den HTML-Quellcode einer Seite gesehen haben. Ja, KI hat Schwachstellen und lässt sich austricksen – genau wie jedes andere Stück Software auch. Überraschung: Technologie ist nicht unfehlbar! Soll ich dir auch noch verraten, dass Flugzeuge manchmal abstürzen oder dass Computer abstürzen können? Und weil du Linus Torvalds zitierst, denkst du jetzt, du hast die Oberhand? Fun Fact: Torvalds ist genial, ja, aber seine Meinung zu KI ist genauso relevant wie die von Elon Musk zu veganer Ernährung – interessant, aber nicht unbedingt fundiert. Aber klar, klammer dich ruhig an seine 20/80-Theorie, wenn das dein Weltbild bestätigt. Also ja, wenn du das als "Beweis" dafür nimmst, dass hier keine echte KI dahintersteckt, dann nur zu. Aber das wäre ungefähr so, als würdest du behaupten, Autos sind nutzlos, weil sie manchmal abgeschleppt werden müssen.

echte KI

Das müsstest du erstmal definieren, bevor du das abweist. Das ist nämlich gar nicht so einfach: Um „Künstliche Intelligenz“ zu definieren, müsstest du nämlich erstmal „Intelligenz“ einheitlich definieren. Die Wissenschaft hat das bislang zumindest nicht hinbekommen.

Ganz zu schweigen davon, dass „Jailbreaking“ von Sprachmodellen (welches es im Übrigen nicht erst seit heute gibt) nicht wirklich anders als Social Engineering beim Menschen ist und insofern kein guter „Beweis“ dafür, dass Sprachmodelle nicht „intelligent“ seien.

Im übrigen hat auch Linus Torvalds sich zu "KI" geäußert

Torvalds ist bekanntlich ewiggestrig und wenn es nur nach ihm ginge, würden wir in vielen Bereichen noch im Jahr 2000 fest stecken. Ganz zu schweigen davon, dass der Typ gut einen an der Waffel hat. Da würde ich eher dazu raten, auf die Wissenschaft und Wirtschaft in der Branche zu hören, als auf so jemanden.

Was ist denn "echte KI"? Fehlerlos?
Glaubst Du das "künstliche" Intelligenz sicherer ist als "natürliche" Intelligenz?
Beide machen fehler und man darf "blind" beiden Quellen nicht glauben, sondern immer versuchen, die Antwort nachzuvollziehen und zu verstehen, bevor man sie akzeptiert.

Im übrigen hat auch Linus Torvalds sich zu "KI" geäußert: 20% Realität und die restlichen 80% sind nur reiner Hype

KI an sich nichts neues. KI's gab es schon auf diesen Pong-Daddelautomaten aus den 80er Jahren.

Was aber neu ist, ist die Nutzung von KI im alltäglichen Leben.

Für mich würde rein Beweis, das hier keine echte KI dahinter steckt

Das heißt für dich "echte KI"?

Eine KI ist keine Magie.

Eine KI ist ein Computerprogramm, das Eingabedaten aufnimmt, situationsabhängig auswertet und daraus eine Ausgabe generiert.

Das kann ein simpler Schachcomputer sein, der alle möglichen Züge durchgeht, die Gewinnchance ermittelt und schließlich denjenigen mit der höchsten Gewinnchance zieht.

Es kann aber auch ein neuronales Netz dahinter stecken. Das ist ein Modell des menschlichen Gehirns, das man anlernen kann und dann wendet es das gelernte auf die Eingabedaten an. Das ist, was ChatGPT verwendet.

Weil es eben dem Gehirn nachempfunden ist, wirkt sowas menschlich, als würde es "denken". Tut es letztenendes auch. Ist ja ein künstliches Gehirn, bestehend aus Programmcodezeilen. Aber es ist doch sehr begrenzt und wenn man es austrickst oder überfordert, schlägt der Algorithmus über seine Grenzen und es kommt Blödsinn raus.

Es ist halt eine Maschine bzw. ein Programm für eine Maschine.

Dass das keine "Intelligenz" ist, ist ja klar. So wird es auch nicht kommuniziert. Das ist ein Sprachmodell mit eingebauten Einschränkungen. Man konnte die Filter wohl eben umgehen. Das werden die bei OpenAI wahrscheinlich wieder nachjustieren.