Wieso weiß ChatGPT mehr als Google?

Bei Google muss man sich den Inhalt selbstzusammen suchen und da kommt es auch darauf an wie du deine Frage formulierst, zumeist funktionieren stichwörter besser.

ChatGPT hingegen reimt sich halt eine Antwort zusammen und setzt dir dazu einige Sätze vor.

Nein. ChatGPT ist ein System, das darauf trainiert ist, Texte zu ergänzen. Wenn es zu einem Thema nix weiß, dann lässt es sich was einfallen. Z.B. über Taylor Swift gibt es viele Texte, darum auch sehr gute Trainingsdaten. Wenn ich nun nach Taylor Swift frage, bekomme ich gute Texte.

Ich habe mal versucht, mir einen Text über meine Kollegin schreiben zu lassen. Da habe ich viele, schöne, neue Dinge erfahren. Mal ist sie Trägerin eines Forschungspreises, und mal ist sie der Grund für einen Skandal. Nix von allem trifft zu, aber das Sprachmodell hat dies trotzdem „gefunden“.

Der These, die in Deiner Frage steckt, würde ich glatt widersprechen. Grundsätzlich liegt der Unterschied darin, dass man sich bei Google mehr Gedanken machen muss, ob ein Treffer die eigene Problemstellung beantwortet, während man offensichtlich bei ChatGPT eine "wird-schon-richtig-sein"-Haltung an den Tag legt - auch dann, wenn ChatGPT kompletten Blödsinn erzählt.

Weil ChatGPT nichts weiß, es gaukelt einem nur sehr gut vor etwas zu wissen. Wenn ChatGPT etwas nicht weiß oder ein Detail nicht kennt, wird es versuchen dieses so gut wie möglich zu verstecken und zu "lügen".

Weil das grundsätzlich nicht stimmt.