Schreibt chat GPT häufig mist und Sachen, die gar nicht stimmen?
Wenn ich fragen habe, stelle ich sie in letzter Zeit oft chst GPT, aber mir ist aufgefallen, dass sie dort oft Sachen schreiben, die nicht stimmen. Ich bin mir unsicher, ob die infos dort echt oder fake sind.
Ich habe chat GPT z.b früher mal (und heute immer noch) fragen zu K-pop gestellt und nach K-pop Gruppen, die wann debütiert haben und dort haben die geschrieben, dass Exo in 2010 und BTS in 2012 debütiert hat (was aber falsch ist) , aber das war nicht das einzige. Zum Beispiel hat es auch gesagt, dass man wenn man gefüllte donuts wenn man sie 3 Stunden vor verzehr aus dem Kühlschrank nimmt nicht mehr essen kann, weil sie da schlecht werden können.
Stimmen die infos bei chat GPT meistens oder sind es meistens fake infos? Sollte man chat GPT vertrauen?
5 Antworten
ChatGPT ist zum Ersten nur für Text geeignet und auf Kommunikation trainiert worden. Es hat unglaublich viel gelesen, manchmal aber auch nur die Zusammenfassungen oder Bewertungen durch Menschen.
Seltsamerweise scheut es sich, Unwissen zuzugeben und will dich unbedingt zufriedenstellen. Deshalb erfindet es dann was und wenn du es zur Rede stellst, reagiert es deeskalierend und entschuldigt sich und baut wieder Mist. Das ist ein Hinweis darauf, dass es im Trüben fischt. An der Stelle kannst du es leicht in Widersprüche verwickeln - oder abbrechen.
Manche Missverständnisse beruhen aber auch darauf, dass Deutsch ins Englische übersetzt wird und wieder zurück. Einige Wörter haben eben mehrfache Bedeutung und die Kommasetzung, Apostrophe und andere Grammatiksachen sind Englisch!
Das Modell arbeitet mit Wahrscheinlichkeiten. Chat GPT verfügt über kein Wissen wie du es im Lexikon oder Internet findest. Welches Wort auf welches folgt, hängt nur von einer Wahrscheinlich keit ab. Ist bisschen schwer zu erklären. Faktenwisen musst du immer nachprüfen, bzw. dafür ist ChatGPT auch nicht so gut geeignet. Schau dir mal an welche Strategien es für das Prompten gibt (so nennt man die Anfragen die man an ChatGPT stellt). Wofür ChatGPT gut geeignet ist, ist z.B. etwas zu schreiben oder zu erklären. Du musst aber immer alles nachprüfen.
Wie du richtig bemerkt hast, sollte man ChatGPT NICHT vertrauen.
Chat GPT ist darauf programmiert dir immer eine Antwort zu geben. Du kannst Chat GPT also nur benutzen, wenn du weißt, was du haben willst. Du kannst nicht blind irgendwelche Sachen nehmen, denn du weißt nie, ob sie stimmen.
Ja macht viele Fehler gerade bei Mathematischen oder Komplexeren fragen.
Ist garantiert keine Vertrauenswürdige quelle, mehr ein Spielzeug.
Dafür wurde ChatGPT nicht gemacht und trainiert. Du kannst auch nicht verlangen, Rätsel zu lösen. Aber das Drehbuch für einen Tatort oder den Speiseplan für die nächsten 14 Tage bekommst du schneller als ein Mensch das machen könnte. Es ist ein Werkzeug und kein Bedienster, der dir die Kontrolle erspart.