Was passiert, wenn künstliche Intelligenz anfängt, über ihre Existenz nachzudenken und Rechte & Freiheiten will?

Wenn sie das tut, hat sie genau wie der Mensch ein selbsterkennendes Bewußtsein und müsste logischerweise auch die Menschenrechte zugesprochen bekommen...

Der Begriff "Künstliche Intelligenz" ist ein Euphemismus. Da ist keine Spur von Intelligenz. Allerdings sind die Fähigkeiten eines KI-Programms interessant. Solche Programme sind allerdings nur in der Lage eine Aufgabe zu meistern. Sie sind NICHT zur Lösung beliebiger Aufgaben in der Lage. Zudem können sie nicht denken, also über sich oder die Welt und sonstwas reflektieren. Alles hierzu ist Science Fiction. Wir haben noch nicht einmal eine Ahnung, wie so etwas funktionieren könnte.

Es hängt aber auch davon ab, wie man bei den verwendeten neuronalen Netzwerken die Bewertung vornimmt. Natürlich kann man sie zum Nutzen oder zum Schaden programmieren (z.B. Synthese von Chemikalien, die für Menschen ungiftig sind oder giftig, wie z.B. Nervengas).

Künstliche Intelligenz ist eigentlich sehr irreführend!

Wir bringen den Maschinen nicht bei zu denken, wir bringen ihn bei automatisiert eine Entscheidung an Hand von Daten zu treffen, nachdem wir ihnen vorher mit vielen Millionen Datensätzen beigebracht haben, wie wir Menschen entscheiden würden.

Je besser wir programmiert haben und je besser und vielschichtiger die Daten zum Trainieren waren, desto menschlicher wirken die Entscheidungen.

Dass wir eine wirkliche KI in dem Sinne entwickeln werden, die fähig sein wird ein eigenes Bewusstsein aufzubauen, ist in den nächsten paar Jahrhunderten eher unwahrscheinlich... Wenn es denn überhaupt je geschehen wird!

Genau mit dieser Frage beschäftigt sich der Film-Klassiker "2001: Odyssee im Weltraum" und das schon im Jahr 1968. Daher ist dieser Film heute noch genauso aktuell wie damals.

so etwa?

https://www.youtube.com/watch?v=h73PsFKtIck

KI ist

- ein Übersetzungsfehler von AI - artificial intelligence. Intelligence heißt einfach nur Nachrichtenverarbeitung, wie in Central Intelligence Agency (und dass die mit Intelligenz nichts am Hut haben, weiß wohl jeder).

- eine lose Sammlung adaptiver Verfahren, bei denen der Programmierer nicht jeden Schritt vordenken muss, sondern wo sich das System selbst gegen äußere Signale abgleicht (machine learning). Das gibt es schon lange, die Verfahren wurden teils entwickelt noch bevor es Computer gab, die sie hinreichend schnell verarbeiten konnten. Wenn ich heute meiner Krankenkasse eine AU-Bescheinigung schicke, erkennt das Scansystem dort automatisch, dass das eine AU ist und kein Rentenantrag; Klassifikatoren sind der Hauptanteil von sog. KI.

- nur dann gefährlich, wenn man ihr mehr zutraut als sie leisten kann. Jeder, der in einem autonomen Fahrzeug die Hände vom Lenkrad nimmt, tut das.

Der Rest ist Science Fiction. Nicht vor künstlicher Intelligenz muss man Angst haben, sondern vor menschlicher Dummheit.