Wenn die KI-Forschung eine hinreichend fähige künstliche Intelligenz hervorbringen würde, die in der Lage ist, ihren Programmcode zu verändern und sich dadurch selbst neu zu programmieren, könnte diese vollkommen selbstständig eine verbesserte Version von sich selbst erschaffen. Diese verbesserte Version wäre wieder besser darin, sich selbst zu verbessern, was laut zahlreichen Forschern zu einer "Intelligenzexplosion" führen würde, in dessen Rahmen künstliche Intelligenz die menschliche übertreffen wird und immer mehr wissenschaftliche Durchbrüche von KI statt von Menschen erzielt würden.
Die erste künstliche Superintelligenz wäre somit die letzte Erfindung der Menschheit, da Innovationen danach zunehmend von Maschinen entwickelt würden, weil die dafür notwendige Forschung irgendwann zu komplex werden würde, um von Menschen noch verstanden, geschweige denn durchgeführt werden zu können.
Dies würde schließlich zu einer technologischen Singularität führen, in der eine immer stärker werdende KI in immer mehr Bereiche des öffentlichen Lebens Einzug halten und einen immer größer werdenden Einfluss ausüben wird, deren Implikationen im Hinblick auf die Zukunft der Menschheit nach Eintreten dieses Ereignisses nicht mehr vorhersehbar wären.
Haltet Ihr ein solches Szenario für realistisch? Falls ja, wann denkt Ihr, wird die Singularität eintreten? Und was erhofft Ihr Euch von einer solchen Entwicklung? Oder seid Ihr gar besorgt?
