Gefahr von ChatGTP?
Gestern gab es bei Lanz eine Diskussion über KI bzw. ChatGTP. Nach meinen Experimenten mit dieser und ähnlicher Software komme ich zu dem Ergebnis, dass ChatGTP ein "Idiot mit extrem guten Gedächtnis und Wissen ist".
Ich kann nicht mal ansatzweise ein Gefahr erkennen, dass KI die "Herrschaft über Menschen" erlangt. Aber ich sehe die Gefahr, dass man mehr und mehr die Fähigkeit verliert, Informationen zu bewerten und einzuordnen. ChatGTP kann sozusagen Wikipedia-Informationen und andere Informationen leicht verdaulich zusammenfassen. Man erkennt aber gar nicht mehr, woher diese Informationen stammen. Das ermöglicht Manipulationsmöglichkeiten für den, der den Algorithmus bestimmt, in dem er bestimmte Quellen ausschließt. Niemand kann dies mehr erkennen, wenn man sich nur noch auf die AI verläßt,
Eure Meinung?
7 Antworten
Bin bei dir. Die Gefahr besteht, dass man sich aus dem Vertrauen zur KI heraus einfach nicht mehr wirklich informiert. KI ist am Ende nur ein großer Datenspeicher der halt auswertet. Das macht er nicht schlecht zugegeben und für oberflächliche Informationen ist es wohl ausreichend. Sobald es aber um Details geht, wird auch KI ungenau weil es mitunter nicht genug Informationen findet oder diese nicht gut genug auswerten kann.
Wissen wird verloren gehen. Genauso wie es jetzt im Gespräch ist beim Abi zb Fachbereichsarbeiten wegzulassen weil viele diese ohnehin einfach durch eine KI schreiben lassen. (nur Hörensagen). Mein Sohn meinte auch, dass er die wissenschaftliche Arbeit evtl. fürs Abi gar nicht schreiben muss weils abgeschafft werden soll. Wenn es so weitergeht wird Schule komplett abgeschafft weil man kann ja eh alles googeln.
Alle werden auf Dauer immer abhängiger werden davon. Eigenes Wissen geht verloren. Ebenfalls die Fähigkeit sich eigenes Wissen anzueignen. Das ist eine Unmenge an Problemen die da auf uns zukommen "könnten". Deswegen wäre es wichtig hier Regeln und Grenzen zu setzen. Grundsätzlich
Die einzige Gefahr die ich sehe ist bei jungen Menschen die sich zu sehr drauf verlassen.
In der Programmierung z.b. Ich habe einen Azubi der es gerne nutzt.
Finde ich ansich auch nicht weiter schlimm. ABER wenn er dann nichtmal den code versteht und was dort passiert, hört es eben auf.
Und das will der Azubi einfach nicht verstehen. Also wie wichtig es ist, wirklich zu verstehen was er da von ChatGPT vorgekaut bekommt.
Programmierer die nur kopieren und sagen "Joa funktioniert, alles gut" sind in meinen Augen einfach keine Programmierer.
Es werden Probleme kommen die er z.b. NICHT mit chat gpt lösen kann. Und dann ist das Chaos da.
Ergo, als Hilfstool sehe ich da keine Gefahr.
Aber als LEITFADEN für alles wie es manche junge Menschen wohl benutzen... Naja da sieht die Geschichte eben anders aus.
Selbst mitdenken sollte man schon noch.
Abgelöst werden wir nicht.
Es bedarf immer dem Mensch hintendran, der schaut das alles richtig läuft. Selbst wenn eine KI davorgeschalten ist.
Es ändert sich nur die ART der arbeit.
Dennoch muss man eben verstehen was die KI treibt. Ansonsten ist man auf verlorenem Posten und hört auf weiter zu lernen.
Und wer in der Programmierung nichtmehr dazulernt. Der ist schnell abgehängt.
Der ganze Hype um KI war eine geschickte Marketingstrategie, um den Börsenwert von Unternehmen zu erhöhen.
Im Grunde ist KI nichts anderes, als Programme mit Algorithmen für ausgeklügelte Mustererkennung. Mit Intelligenz im strengen Sinn hat das nichts zu tun.
Alles Medienhype.
Bei der Fehlerquote wird auch massiv gelogen, ich kann die Antworten bei denen ChatGPT und Konsorten nicht wenigstens einen Fehler gemacht haben schon gar nicht mehr zählen.
Ich sehe die Gefahr nicht so, wenn man sich über ein Thema informiert, dann hat man es nämlich schon über mehrere Wege gemacht und dann merkt man auch wenn die KI falsch liegt.. also alles eine Frage der eigenen Fähigkeit. Wer dazu nicht in der Lage ist, klar der wird auch auf falsche Informationen drauf rein fallen.
Willkommen in der Zukunft. Darin sehe ich ein Problem. Wir Entwickler werden nun von ChatGPT in Sachen Programmierung abgelöst. Trotzdem ist unser Fokus weiterhin das Definieren von Requirements.