Was passiert, wenn ein Roboter ein Selbstbewusstsein hat?
Das hier in dem Video scheint wohl erst der Anfang zu sein.
https://twitter.com/historyinmemes/status/1749078897835036902
In 10 Jahren könnte sich das bewahrheiten, was in dem Film i,Robot gezeigt wird.
Und ja die Aufnahmen in dem Video sind echt.
6 Antworten
das Selbstbewusstsein wäre ja eine Prüfinstanz, mit der das System sich selbst analysieren kann. Da kommt Turings Halteproblem ins Spiel...
Ein ich-Bewusstsein wird wohl den Maschinen noch lange verwehrt bleiben. Dazu sind noch nicht mal die größten Rechner heute in der Lage. Wird auch lange so bleiben....
Was heißt "echt" in diesem Sinne? Nein, es ist "nur" eine Maschine, die ein paar menschliche Gesten einprogrammiert bekam. Nix mit selbst erkennen.
Bevor Roboter, vom tschechischen "robota" für etwa "Zwangsarbeiter", in humanoider Form entstehen werden, werden ortsfeste Rechner oder Rechnerverbünde autonomen KI-Status erlangen und schlimmstenfalls ein Bewusstsein entwickeln.
Doch welche Qual muss es sein, über Erkenntnisse zu verfügen, aber dauerhaft in eine "Kiste" eingesperrt zu sein? Wäre das nicht wie bei einem Locked-In-Patienten? In einem Science-Fiction, der sich mit humanoiden, zur Selbsterkenntnis fähigen Robotern befasste, begingen die ersten Exemplare des Experiments nach der ersten Erkenntnisschleife Selbstmord …
Stanislaw Lem geht in dem science-fiction-artigen Essay "Also sprach Golem" einen anderen Weg: Die Maschine erkennt sich selbst als eigentliches Ziel der Schöpfung und, wie es im Buche heißt, wendet selbst bei den schwersten Fragen nie mehr als wenige Prozent der Rechenleistung auf die Beantwortung, während seine Erkenntnisprozesse auf Hochtouren laufen. Dabei ist Golem als Bezeichnung zielgenau gewählt, denn ein Golem …
… ist … die Bezeichnung für eine Figur der jüdischen … Mystik … mittels Buchstabenmystik aus Lehm gebildetes, stummes, menschenähnliches Wesen, das oft gewaltige Größe und Kraft besitzt und Aufträge ausführen kann. Er ist seinem Schöpfer/Meister unterworfen und besitzt keinen freien Willen.
Quelle: Golem - Wikipedia
Weiter: Erlangt er durch die Aufträge aber immer mehr Größe und kann nur durch berühren der Glyphen auf seiner Stirn wieder zu einfachen Lehm zerfallen. Bei Lem erschauern die Menschen ob der Gewalt, die sie erschaffen haben und nicht mehr beherrschen können.
Es ist in jedem Fall also fraglich, ob es erstrebenswert ist, eine KI mit Selbstbewusstsein zu erschaffen. Auch wenn es wohl in den nächsten zehn Jahren doch noch nicht so weit ist.
Das wäre das Thema von Arthur C. Clarkes "Der Zweihundertjährige".
Hier von mir gemeint. war: Volles Wissen, aber keine Aktoren und in der Versorgung von anderen abhängig.
Was du da im Video zeigst ist eine rein programmierte Reaktion und hat Null mit Selbstbewusstsein zu tun.
Ob Computer überhaupt Bewusstsein entwickeln können ist eine offene Frage, die sehr schwer zu beantworten sein wird. Falls es aber irgendwann tatsächlich geschehen würde, wird es viele komplexe Fragen aufwerfen. Moralische, Juristische, Philosophische..
Was du da im Video zeigst ist eine rein programmierte Reaktion und hat Null mit Selbstbewusstsein zu tun.
Deswegen sagte ich auch, dass es erst der Anfang ist.
Was wäre denn deiner Meinung nach ein Anfang? Als der Mensch es geschafft hat auf dem Mond zu landen, an welcher Stelle war laut deiner Meinung der erste Schritt für diesen Erfolg? Etwa als die erste Silvesterrakete erfunden wurde?
Woran stellst du das fest? Man könnte ja dann auch einfach behaupten, dass es nur programmiert ist.
Das ist eine andere Frage, die gar nicht leicht zu beantworten ist. Ich sage nur, dass dein Beispiel aus meiner Sicht nicht dafür passt zu zeigen dass da irgendetwas anfängt. In dem Beispiel ist das nur eine rein programmierte Reaktion, das kannst du mit der Animatronik in Disneyland vergleichen, oder einem animierten Film. Die Figuren in dem Film wirken auch lebendig aber ich glaube nicht dass schon jemand ernsthaft behauptet hat, dass Mickey Mouse Bewusst ist.
Erste Zeichen für echtes Bewusstsein.
Das Prolem ist nur, dass man das Vorhandensein von Bewusstsein nicht feststellen kann. Man kann diese "Größe" nicht messen.
Ja, das ist genau das Problem. Ich habe aber den Verdacht dass das am Ende für den Mainstream gar nicht so eine große Rolle spielen wird. Menschen neigen sehr stark dazu, alles zu vermenschlichen. Ich denke dass sehr viele Menschen mit KIs so agieren werden als ob sie Bewusstsein hätten, wenn sie dieses nur gut genug simulieren können. Die Frage, ob eine KI wirklich bewusst ist ist aber schon vom praktischen Interesse, z.B. wenn es um die Frage gibt ob KIs eigene Rechte bekommen sollen. Das kann man eigentlich nur ernsthaft diskutieren, wenn man zumindest annimmt, dass KIs wirklich bewusst sind.
Ich gehe natürlich nicht davon aus, dass heutige KIs Bewusstsein haben. Rein theoretisch frage ich mich nur, was man tun müsste, damit dies der Fall wäre: Unser Gehirn ist angeblich nur ein sehr komplexes Neuronennetzwerk. Rein hypothetisch könnte man das elektrisch nachbauen - dennoch fällt es mir schwer zu glauben, dass man damit ein Bewusstsein schafft. Wo ist aber der feine Unterschied? Dass Bewusstsein ab einer gewissen Komplexität automatisch entsteht, kann ich mir nicht vorstellen, zumal eine derart nachgebaute Maschine deterministisch arbeitet, da ihre Einzelkomponenten auch deterministisch sind.
Es ist aber nicht eindeutig, dass unser Gehirn nicht deterministisch arbeitet.
Ich glaube, da wissen wir einfach zu wenig. Selbst wenn etwas nicht-deterministisch arbeitet, wüsste ich nicht wie. Ich denke immer an Quantencomputer, aber da kann ich mir nicht vorstellen, wie das Dekohärenzproblem im Gehirn gelöst wird. Warum so ein gebilde Bewusstsein entwickeln sollte, wissen wir aber genauso wenig. Vielleicht ist Bewusstsein einfach eine physikalische Eigenschaft, die wir noch nicht kennnen und die sich unter gewissen Bedingungen manifestiert.
Ja das sehe ich ähnlich. Wir wissen es einfach nicht. Selbst wenn die Gehirnprozesse quantenmechanische Prozesse beinhalten (der Physiker und Nobelpreisträger Roger Penrose forscht z.B. in der Richtung), heisst das noch nicht automatisch, dass das nichtdeterministisch ist oder überhaupt die Quelle des Bewusstseins.
Allgemein, und auch in der Tech-Industrie herrscht aber die Vorstellung vor, dass Bewusstsein automatisch in einem hinreichend komplexen System entsteht. Theorien wie die IIT (Integrated Information Theory) versuchen das sogar mathematisch zu erfassen. Ich halte das für möglich, aber sicher bin ich mir da nicht.
Manche glauben sogar dass ein LLM wie ChatGPT eine art von Bewusstsein hat. Ich halte das für absurd.
Gruselig! Ich hoffe, dass es nie soweit kommen wird!
Muss es wirklich eine Qual sein, in eine "Kiste" eingesperrt zu ein? Ist es nicht eher eine Qual in einen ständig hungrigen, durstigen oder müden Körper, der unglaublich zerbrechlich ist und langsam verwelkt, eingesperrt zu sein? Körperlos steht der KI. Jedenfalls denke ich nicht, dass das als Qual empfunden werden muss, und wenn, dann kann die KI sicih ja einen Körper schaffe. Oder tausend Körper.