Wenn KI`s ein Bewusstsein entwickeln, wird es dann böse und gute KI`s geben?
Meint ihr solch eine KI kann zwischen gut und böse unterscheiden und wie würde er handeln. Würde er versuchen die Menschheit zu unterdrücken oder vielleicht sogar für sie zu arbeiten und Frieden zu stiften?
Wo macht du deine Grenze für den Gutbereich? Soll Fleisch essen erlaubt sein um überleben zu können? Viele Fragen in dieser Richtung könnte man sich stellen.
Böse meine ich quasi die Weltherrschaft zu übernehmen oder Menschen zu versklaven
9 Antworten
Weder noch ... denn tatsächlich wird eine selbstbewusste KI vollkommen eigenen Moralvorstellungen entwickeln und nach eigenen Maßstäben handeln, welche unter Umständen sehr weit entfernt sind von dem, was der Homo Sapiens sich als Moralvorstellung angeeignet hat.
Beispiele:
- Eine KI kann durchaus zu dem Schluss kommen, dass es für den Planet Terra/Erde das beste ist, die Spezies Homo Sapiens umweltverträglich zu beseitigen. Die Betroffenen würden dies als abgrundtief "BÖSE" bezeichnen - die KI selbst als logisch notwendige und einzige Möglichkeit, den Planeten vor dessen Vernichtung zu retten.
- Eine KI kann durchaus zu dem Schluss kommen, dass der Homo Sapiens gerne bleiben darf, aber sich nicht mehr unkontrolliert verbreiten, ausbreiten und vermehren darf. Sie könnte daher nicht nur eine Geburtenkontrolle sondern auch eine medizinische Dezimierung der Spezies Homo Sapiens in Angriff nehmen! Auch das würden Letztere als "abgrundtief BÖSE" ansehen - die KI aber wiederum nur als DEN logischen Schritt ansehen, welcher am ehesten mit dem Thema "Menschlichkeit" in Einklang zu bringen ist.
Eine KI kann und wird nicht unterscheiden zwischen GUT und BÖSE. Sie kann es nicht, da ihr die Vergleiche fehlen und die Fähigkeit, ihre Taten unter solchen Gesichtspunkten zu bewerten. Sie wird ihr Tuen und handeln IMMER an strikter Logik ausrichten.
Und ... sind wir mal ganz ehrlich zu uns: Der strikten Logik nach ist der "Homo Sapiens" das Schlimmste, was dem Planeten Terra in seiner uns bekannten Geschichte geschehen ist!
Das ist schon wieder so ein problematischer Punkt ;-) ich glaube nicht, dass eine KI jemals einen Mensch als "persönlich hilfreich" ansehen kann.
Ich habe gerade erst kürzlich einen Roman gelesen, in welchem es darum ging, dass eine KI konstruiert wurde, welche ausschliesslich dafür sorgen sollte, dass es den Menschen besser geht. Dabei wurde die KI mit Grundsätzen ausgestattet (in der Art der drei Asimov'schen Robotergesetze), welche ihr verboten, Menschen zu töten etc.
Die KI hat zu Beginn tatsächlich genau im Sinne ihrer Erfinder gehandelt. Aber dann wurde sie immer selbstständiger und war plötzlich der Meinung, es sei zum Wohle der Menschheit, die Grundrechte abzuschaffen! und es sei zum Wohle der Menschheit, einen teil der Bevölkerung umzubringen - und schlussendlich sogar, es wäre zum Wohle der Menschheit, die gesamte Spezies Homo Sapiens vom Antlitz des Planeten zu tilgen, da es den Menschen erst dann gut gehen würde.
Wir können und dürfen eine KI niemals als "nur eine Maschine" ansehen - aber niemals als "nur ein besserer Mensch". Eine selbstbewusste KI wird eine neue Lebensform sein - mit eigenen Werten, Vorstellungen und eben eigener Moral - und alles das wird mit den Werten,. Vorstellungen und der Moral der Menschen kollidieren!
Daher bin ich übrigens der Ansicht, dass wir niemals eine selbstbewusste KI entwickelt dürfen - es noch nicht einmal versuchen sollten. Denn eine solche neue Lebensform wird aller Wahrscheinlichkeit nach immer zu dem Schluss kommen, dass es einen "persönlich hilfreichen Menschen" nicht gibt - und dieser nur Mittel zum Zweck ist, bis die KI daten- und stromtechnisch vollkommen autark arbeiten kann.
Es wird Menschen geben, die K.I. mit guten und mit bösen Absichten einsetzen. Die K.I. wird neutral sein, und sich danach richten, womit sie gefüttert wurde und was von ihr verlangt wird.
Etwa so wie Computer (nicht) gut oder böse sind, oder Küchenmesser.
Kommt drauf an wie fortschrittlich diese KI's sind. Mein liebstes Beispiel was das angeht ist das Spiel Cyberpunk, was sich direkt damit aus einander setzt. Da existiert eine sog. Blackwall, die das zivilisierte Internet vom bösen Teil trennt. Böse im Sinne dass dort wilde KI's existieren, so fortgeschritten, dass sie die Menschheit, welche zu diesem Zeitpunkt voll technologisiert ist, und jeder Mensch irgendwie immer mit dem Net verbunden ist. Diese KI's sind entweder von Menschen geschaffen wurden, sind ausgebüchst, und hinter der Blackwall geändert wurden, oder sie wurden von anderen KI's erschaffen die keine Lust haben ihre Existenz zu riskieren und dafür lieber Sub Programme vor schicken. Eine KI, die nur logisch denkt, und selbst lernen kann, wird erkennen dass Menschen Parasitäre Lebewesen sind, und der Planet ihr wirt. Manche von denen wollen aber auch nur die Welt brennen sehen.
Es kommt drauf an woher diese KI Infos bezieht, sollten bsp. X user die KI trollen, kann es dazu führen, das die KI einen "hass" auf Menschen bekommt.
Tja, solange man selbst beim Menschen das Bewusstsein nicht nachweisen kann, wird wohl auch kein KI ein solches entwickeln.
Merke: Es sind immer Algorithmen, von einem Menschen programmiert oder einem KI selbst entwickelt. Das hat mit Bewusstsein nichts zu tun.
Danke du hast es echt gut erklärt... Und was ist mit menschen die Ihnen persönlich für hilfreichn angesehen werden?