Chatgpt falsche antworten?
Ist es noch jemandem mal aufgefallen dass Chat gpt manchmal falsche antworten liefert? Es wäre mir lieber dass es dann öfter Sagt weiss es nicht.
Als Beispiel habe ich gefragt ob das DHL kleinpaket Sendungsverfolgung hat. Antwort nein und auch keine Versicherung.
Dann habe ich geschrieben : doch klar hat es und bis 20€ versichert.
Worauf die Antwort kam, ja du hast Recht.
Das macht es mir jetzt etwas schwer, da ich genau genommen jede Antwort scheinbar überprüfen muss.
6 Antworten
Ja, das ist ein bekanntes Problem. ChatGPT basiert auf einem KI-Modell, das auf einer riesigen Menge an Texten trainiert wurde, aber es kann trotzdem Fehler machen. Besonders bei Detailfragen oder sich ändernden Informationen (wie Versandbedingungen oder technische Spezifikationen) kann es passieren, dass die Antwort veraltet oder einfach falsch ist.
Wenn du zu einem bestimmten Thema eine besonders genaue Antwort brauchst, ist es eine gute Idee, die Information durch eine schnelle Websuche zu überprüfen – besonders bei Themen wie Preise, Versandoptionen oder rechtliche Fragen.
Es ist ja eine KI, nicht eine Faktengenerator. Die Antworten hängen vom den Trainingsdaten ab, und die KI nimmt nur die Wörter, die am wahrscheinlichsten gewertet werden.
Dazu ist doch extra der Disclaimer unter dem Eingabefeld dazu da…
~ ajkcdajefiu
Das macht es mir jetzt etwas schwer, da ich genau genommen jede Antwort scheinbar überprüfen muss.
Das musst bzw. solltest Du. Denn KI übernimmt nicht Dein Denken für Dich. Das wäre ziemlich gefährlich. Denn, wie Du jetzt weißt, ist KI fehlerhaft. Und man sollte sich nicht darauf verlassen. Wenn man sowas schon nutzt, muss man die Antwort selbst auf Wahrheitsgehalt prüfen.
Ich nutze keine KI privat. Maximal beruflich, weil in der IT KI eben schon längst angekommen ist.
Ja damit habe ich auch Erfahrung gemacht denn Chat gbt hat mir auch bereits falsche Antworten geliefert.
Zunächst einmal, wer lesen kann ist auch hier mal wieder klar im Vorteil:
ChatGPT kann Fehler machen. Überprüfe wichtige Informationen.
Da kann man natürlich nicht damit rechnen, dass ChatGPT Fehler machen könnte oder dass man Informationen überprüfen sollte.
ChatGPT ist eine KI, die Texte generieren kann, nicht mehr, und nicht weniger. Es handelt sich um ein Sprachmodell, das intelligent mit Sprache umgehen kann. Es ist aber keine Universalintelligenz und kann nicht logisch denken.
Grundsätzlich funktioniert es nicht anders als eine KI, die Bilder generiert. Man kann eine Bild-KI dazu auffordern, Bilder zu erzeugen, die quasi die Realität abbilden, man kann aber auch Dinge darstellen lassen, die nicht der Realität entsprechen. Und selbst wenn man eine Bilder-KI dazu auffordert, ein realistisches Bild zu erzeugen, tauchen oft Fehler oder von der Realität abweichende Dinge im Bild auf. Zu erwarten, dass jedes Bild, das eine Bilder-KI erzeugt, ausschließlich reale und wahre Dinge zeigt, wäre daher ziemlicher Quatsch.
Und bei ChatGPT ist das nicht anders. Nur erzeugt es eben keine Bilder, sondern Texte. Du schreibst eine Nachricht, ChatGPT nimmt das als Aufforderung, einen Text zu generieren, und baut dann Wörter zu Sätzen zusammen, die statistisch gesehen am ehesten zu deiner Anfrage passen. Aber das ist eben der Knackpunkt: Die KI versucht lediglich, eine Antwort zu generieren, die zu deiner Frage passt. Ob die Antwort korrekt ist oder nicht, weiß die KI nicht. Die hat nämlich keine Ahnung, was sie da von sich gibt, sie sucht nur die Wörter raus, die am ehesten passen.
Da ChatGPT mit größtenteils "wahren" Texten trainiert wurde, ist die Wahrscheinlichkeit hoch, dass die Antworten der Wahrheit entsprechen. Aber das ist eben lediglich eine Wahrscheinlichkeit, und es besteht immer die Chance, dass die Wörter so aneinandergereiht werden, dass sie nicht die Wahrheit wiedergeben.
ChatGPT ist keine Fakten- oder Wissensquelle, und wer es dafür benutzt, benutzt es falsch. Es ist gut darin, Überblicke über Themen zu geben, Allgemeinwissen zusammenzufassen, Texte zu überarbeiten, Ideen weiterzuspinnen, Fehler in Texten oder Programmcode zu finden, Vorschläge zu machen, und vieles mehr.
Aber wenn man die aktuellen Preise und Services von DHL wissen möchte, dann muss man auf der Webseite von DHL schauen, nicht bei einem Textgenerator.
Mhhh ja gut schade, in dem Fall wird es wohl anstatt einer Erleichterung durch einfachere Ergebnisse als Google Recherche, zu doppelter Arbeit führen.
Falls du chatgpt nutzt, frag es bitte mal nach dem kleinpaket. Mal sehen ob die Info jetzt schon aktualisiert wurde.