Kann man eine KI verdummen lassen?
KIs lernen mit jeder Frage, kann man ihr auch solange falsches sagen, so dass sie verdummt?
Das Ergebnis basiert auf 11 Abstimmungen
5 Antworten
Hi ForumLibhaber,
ganz lustig zu wissen: Wenn man KI zu viel trainiert, dann tritt ab einem gewissen Zeitpunkt so etwas auf, dass sich Overfitting nennt. Dann ist die KI zu stark an Trainingsdaten angepasst und kann mit realistischen Daten nicht mehr korrekt umgehen. Sie verdummt also, weil sie zu viel gelernt hat... https://www.ki-praxisbeispiele.de/glossar/
Neuronale Netze, die mit wenig Daten lernen können beim "überwachten Lernen" beeinflusst werden. Das ist dann jedoch während der Lernphase der Fall.
Wenn ich eine These aufstellen sollte, dann wird das ähnlich wie bei der Beeinflussung von Google möglich sein; Verabreden sich tausende Menschen einer moderat großen KI häufig falsche Daten zu füttern, wird diese auch beeinflusst. Vorausgesetzt diese ist auch entsprechend konfiguriert, sodass sie durch die Eingaben lernt. Da die meisten KIs durch die Inhalte von Webseiten "aufgeschlaut" wurden, gibt es insbesondere bei Nischenwissen Qualitätsprobleme. Teilweise sind Informationen nur auf sehr wenigen Webseiten zu finden, welche nicht immer korrekt sind. Das führt dann dazu, dass eine KI diese Infos als "wahr" interpretieren könnte.
Das hängt von der Qualität der KI ab.
Eine gute und kompetente KI ist so programmiert, dass sie ein gewisses Basiswissen hat, auf dem sie aufbaut.
Sollte die KI nun mit Informationen gefüttert werden, welche dem Basiswissen widersprechen, werde diese als invalid eingestuft und nicht im Lernprozess berücksichtigt.
Kommt stark drauf an, wie das System aufgebaut ist und welche gewichtung dabei Fragen spielen. Ein gutes Beispiel für Verdummung durch Fragen ist Tay von Microsoft welcher am 23 März 2016 an den Start ging und nur 16 Stunden später wieder offline ging als der bot anfing unteranderem den Holocaust zu leugnen. Das ist ein gutes Beispiel für Verdummung von KI. Systeme wie Chatgpt Funktionieren aber komplett anders als Tay. Eine Verdummung kann hier nicht direkt auftreten sondern nur durch fehlerhafte vorliegende Daten entstehen. Zum besseren Verständnis Chatgpt basiert auf kontrollierten eingespeisten Daten, wo hingehen Tay auf der Interaktion mit Nutzern basierte und durch diese beeinflusst werden konnte.
Kommt drauf an welche KI.
ChatGPT hat seine Lernphase soweit ich weiß bereits abgeschlossen, lernt also bei den Fragen nichts mehr. Alles was du der KI da beibringst merkt sie sich nur in diesem Chatverlauf, aber nicht darüber hinaus.
Schau dich dich mal hier im Forum um, wo irgendwelche Schlauberger KI-Antworten als Antworten auf Fragen posten. Dann beantwortet sich deine Frage eigentlich schon von selbst.
Eine KI kann immer nur so schlau sein, wie die Daten, mit denen sie gefüttert wird, es zulassen. Und da es ständig mehr Daten gibt, gleichzeit aber prozentual immer weniger "schlaue" Informationen... 😢
Aja, da hat hemand keine Ahnung von KI. Nicht im Lernprozess berücksichtig?? Brudi wenn ich ne KI dauerhaft sage das Hundebilder ein Tisch sind, wird die KI dir sagen, dass ist ein Tisch. Und was meinst du mit "Basiswissen"? Keine KI hat ein Basiswissen, alles started mit zufälligen Werten, die KI Modelle wissen absolut garnichts