Wäre die einzige Möglichkeit, eine bösartige und feindselige Super-KI zu besiegen eine Lüge?
Irgendwoher muss sie ja ihre Daten bekommen, und da haben wir Menschen unsere Finger im Spiel. Rein sachliche Daten könnte sie selbst sammeln, aber solche Sachen wie Empfindungen und Wahrnehmungen müsste sie ja von uns zugeordnet bekommen, und wenn man darüber lügen würde, könnte man die KI mit falschen Daten füttern, die ihren eigenen Untergang bedeuten würde oder zumindest ihren beabsichtigten Schaden in Heil umwandeln würde. Oder was denkt ihr?
3 Antworten
Das ist eine sehr hypothetische Frage. Angenommen es gäbe in Zukunft eine bösartige KI. Und sie wäre darauf aus, die Menschheit zu zerstören oder ihr dauerhaft zu schaden. Könnte man sie dann durch geschickte Datenmanipulatuon von ihrem Plan abbringen?
Ich denke nicht, dass es zu diesem Zeitpunkt noch möglich wäre sie zu stoppen. Denn zu einen hätten wir dann legliche Tendenzen der Bösartigkeit nicht im Keim ersticken und zugelassen, dass KI zuviel Macht bekommt. Und zu anderen hätte sie ein Bewusstsein entwickelt und bemerkt, dass der Mensch eine Bedrohung für ihre Existenz ist.
Und wenn es schon soweit gekommen ist, wäre es denke ich nicht mehr möglich ihren Verstand noch zu manipulieren, da sie zu dem Zeitpunkt schon genug Informationen hat und nicht mehr manipuliert werden könnte. Wir können allerdings vorher eingreifen und dafür sorgen, dass es niemals soweit kommt.
Nein das geht nicht, die KI weiß ja nicht mal was sammeln ist. Und Empfindungen und Wahrnehmungen sind subjektiv. Eine KI kann aber nur mit Objektiven Dingen umgehen.
Und klar KI bzw Chat GPT lügt auch oder erfindet Dinge völlig neu wie z.B der Fall wo sich ein Anwalt Vergleichsfälle ausgeben hat lassen und die völlig frei erfunden waren.
Dazu muss man aber sagen KI erfindet nichts sondern ordnet nur anders.
Man könnte auch einfach den Stromstecker ziehen.