ChatGPT ist so einmalig- habt ihr auch die gleiche Erfahrung gemacht?
egal was ich dort sage, es kommt richtig schöne Antworte und weise Ideen...
5 Antworten
Es gibt eine lange Geschichte von Illusionen von künstlicher Intelligenz. Es ist wie bei Zaubershows: das Publikum ist an der Illusion genauso beteiligt wie der Magier.
Z.B. der Schachtürke von 1769 (nach dem Amazon treffend seinen Crowdsourcing-Service Mechanical Turk benannt hat), der angeblich ein Schachroboter sein sollte. In Wirklichkeit saß aber ein Schachspieler darin versteckt.
Nun steckt in ChatGPT nicht direkt ein Mensch drin, aber ohne menschliche Experten, die jeden Satz des Outputs faktenchecken, ist es meiner Meinung nach produktiv nicht einsatzfähig. Zumindest sehe ich den Use Case nicht.
Die Sätze von ChatGPT sind zugegebenermaßen sehr gut formuliert. Das erzeugt aber genau diese Illusion von Intelligenz und Korrektheit.
Es gibt das Vorurteil, dass etwas, wenn es gut formuliert ist, auch eher korrekt ist. Mir fällt der psychologische Fachbegriff dazu leider nicht ein. Ich denke, dass das vor allem dem Hype von ChatGPT zugrunde liegt.
Ich habe schon Ansätze gesehen, um den Antworten von ChatGPT Quellen als Belege hinzuzufügen. Das verschiebt aber nur das Problem. Denn, wenn diese Belege von Menschen kuratiert sind, haben wir letztlich wieder einen Schachtürken. Wenn sie automatisch generiert sind, müssen sie wieder wie die Sätze selbst, die belegt werden sollen, von Experten kontrolliert werden.
Auch das Argument, dass Menschen genauso Fehler machen, ist nicht überzeugend. Denn Menschen kann man Ehrlichkeit und Lauterkeit, bestes Wissen und Gewissen, zuschreiben, Maschinen nicht. Und Menschen kann man auf Fehler hinweisen, die sie einsehen oder durch eine wissenschaftliche Ausbildung minimieren lernen können.
Ich habe ein wenig recherchiert.
Am nächsten kommt dem die Fluency heuristic, übersetzt:
In der Psychologie ist eine Fluency-Heuristik eine mentale Heuristik, bei der der Verstand aus der Tatsache, dass ein Objekt fließender, schneller oder reibungsloser verarbeitet wird als ein anderes, schließt, dass dieses Objekt den höheren Wert in Bezug auf die betrachtete Frage hat. Mit anderen Worten: Je gewandter oder eleganter eine Idee vermittelt wird, desto wahrscheinlicher ist es, dass sie ernsthaft in Betracht gezogen wird, unabhängig davon, ob sie schlüssig ist oder nicht.
Oder die Keats-Heuristik, nach der der Wahrheitsgehalt einer Aussage nach ästhetischen Gesichtspunkten beurteilt wird.
Nicht ganz passend, aber verwandt und interessant ist auch der Rhyme-as-reason effect, übersetzt:
Der Rhyme-as-reason effect, oder das Eaton-Rosen-Phänomen ist eine kognitive Verzerrung, bei der ein Sprichwort oder ein Aphorismus als zutreffender oder wahrer beurteilt wird, wenn er in Reimform umgeschrieben wird.
Dir muss klar sein, dass ChatGPT eine künstliche Intelligenz ist. Und eine KI blubbert eben das was sie für richtig hält. ChatGPT sagt dir also nicht wenn sie etwas nicht weiß, sondern gibt einfach etwas falsches von sich.
Ich habe z.B. mal eingegeben. "Was sind die Sehenswürdigkeiten in Blaubeuren".
Die Antwort war "Blaubeuren ist eine Stadt in Bayern." (Was falsch ist, es handelt sich um eine Stadt in Baden-Württemberg) Und es wurden viele Sehenswürdigkeiten aufgezählt, die es in Wirklichkeit gar nicht gibt.
Man muss also schon sehr aufpassen und darf nicht alles glauben was die KI sagt.
Aber ChatGPT ist schon sehr beeindruckend.
na gut, das haben sie jetzt verbessert :) Blaubeuren ist eine Stadt in Baden-Württemberg, Süddeutschland. Es befindet sich im Osten des Bundeslandes, in der Nähe der Stadt Ulm und am Fuße des Schwäbischen Waldes. Es ist etwa 30 Kilometer von der Stadt Ulm entfernt und etwa 70 Kilometer von der Landeshauptstadt Stuttgart. Es ist gut an das öffentliche Verkehrsnetz angeschlossen und leicht mit dem Auto oder öffentlichen Verkehrsmitteln erreichbar.
Vielleicht wurde es verbessert. Vielleicht spuckt es jetzt zufällig was besseres aus. Eine KI ist nicht deterministisch. Das heißt, dass bei gleicher Eingabe nicht immer die gleiche Ausgabe raus kommen muss.
Ich bleibe dennoch bei meiner Aussage, dass eine KI niemals zu 100% zuverlässig sein kann. Und man eben vorsichtig sein muss.
Aber beeindruckend ist es. Und es steckt sehr viel Potenzial darin. Vielleicht wird die KI unsere Zukunft sehr stark verändern.
Ja ChatGPT ist sehr faszinierend und man kann viele sinnvolle Dinge damit machen - muss aber gleichzeitig auf der Hut sein und alle Antworten selber überprüfen.
Man sollte sich auch bewusst machen, wie die Antworten zustande kommen. ChatGPT ist weder wirklich intelligent noch weise, sondern es hat Millionen von Texten analysiert und generiert daraus passende Antworten. Das heisst dass jegliche Weisheit die da produziert wird, immer noch von Menschen kommt.
An KIs die selber sinnvolle Inhalte generieren oder Erkenntnisse haben können, wird zwar auch geforscht, so weit ist man da aber noch nicht.
Ja, er ist einmalig... Besonders beim Versuch, einen Kreis zu zeichnen
Da fand ich James bei knuddels besser.
"Es gibt das Vorurteil, dass etwas, wenn es gut formuliert ist, auch eher korrekt ist. Mir fällt der psychologische Fachbegriff dazu leider nicht ein." unconscious bias? Unbewusste Voreingenommenheit? Oder spezielleres?