Wie werden KI-Echokammern verhindert?
ChatGPT und andere LLM-basierte KI-Systeme geben oft auch erfundenes oder veraltetes Halbwissen wieder (Konfabulation / KI-Halluzination), was aber durch unreflektierte Verwendung auch als Teil menschlicher Texte und redaktioneller Inhalte in den Wissenspool der Internet-Schwarmintelligenz zurückfließt.
Entstehen dadurch tatsächlich Echokammern dieser Inhalte und werden deren Nachteile (Fake News, fehlende Quellen) dadurch verstärkt? Oder ist das Gegenteil der Fall? Wird die Entstehung von KI-Echokammern aktiv verhindert und wie geschieht das?
2 Antworten
Inhalte und werden deren Nachteile (Fake News, fehlende Quellen) dadurch verstärkt?
Ich denke das eine verstärkung durchaus stattfinden kann. Ki produziert Müll. Müll gelang in netz und es wird drüber berichtet. KI nutzt die berichte um weiter zulernen. KI Produziert entsprechend mehr müll.
Dieses Ringverweise gibts auch bei Wikipedia. Quasi: Etwas steht in wikipedia. Ein Artikel berichtet über die sache und benutzt dafür wikipedia. (Quelle ggf. nicht angegeben.) Der artikel landet als belag und verweis unter dem gleichen Wikipedia artikel.
Wie man solch Einen teufelskreis verhindern kann? In dem man dafür sorgt das KIs nur mit Primären quellen oder wenigstens hochwertigen sekundären quellen gefüttert werden und selbst nicht als quelle oder maximal tertiäre quelle gelten dürfen.
Das was chat GPT dir am ende sagt ist nicht mehr wert als was ich dir sagen oder jeder andere Mensch. Es ist imgrunde nichts anderes als eine Form des Hörensagens.
Geht aber streckenweise auf aufforderung wie ich das mitbekommen habe.
Nicht wirklich. ChatGPT erfindet wörter, und rät, welches Wort am besten als nächstest kommt. Wenn du nach Linkst fragst, werden sehr viele davon fake sein, keinen Sinn ergeben usw. Oder garnix mit dem eigentlichen Thema zu tun haben. ChatGPT hat nichts mit quellenangaben und quellenbezug zu tun, sondern reinem text erfinden, der durch das trainierte wissen beeinflusst wird. Aber quellenangaben kannst du vergessen
Das von dir beschriebene Problem ist eine Angriffsfläche. Mit gezielten Angriffen lässt sich das Phänomen vorsätzlich provozieren.
Wie man es verhindert? Indem man so viele Löcher stopft, wie möglich. Eine tatsächliche Lösung gibt es noch nicht.
Es ist sogar viel weniger Wert. Wenn ich etwas sage oder hier schreibe, gebe ich immer eine Information mit, für wie wahrscheinlich ich es halte, dass das stimmt. (zumindest eine Quellenangabe)