(Wann) kommt es zur technologischen Singularität?

1. Weil das ein zu kompliziertes und zu komplexes Ziel wäre, das nur mit einer überlegenen Vernunft zu ermöglichen ist.
2. Die heutige KI weiss nur das, was in einschlägigen Lexika zu finden ist, also noch nicht mal das, was sie längst wissen könnte, da nur an Autoritätenwissen orientiert, d.h. von der laufenden Forschung weiss sie so gut wie nichts ...

das nur mit einer überlegenen Vernunft zu ermöglichen ist.

Und diese setzt d. E. unbedingt ein Bewusstsein voraus? Warum?

Die heutige KI weiss nur das, was in einschlägigen Lexika zu finden ist, also noch nicht mal das, was sie längst wissen könnte, da nur an Autoritätenwissen orientiert [...]

Das stimmt so nicht. KI kann heute bereits neue Inhalte erschaffen, die zuvor niemals existiert haben.

Hypothetisches Bsp.: Die Trainingsdaten einer KI beinhalten, was ein Rap ist und was Raufasertapeten sind, jedoch befindet sich in ihrer Datenbank kein einziger Rap über Raufasertapeten. Dennoch kann moderne KI selbstständig einen Rap über Raufasertapeten verfassen, da sie ein hinreichendes Verständnis dafür entwickelt hat, welche Eigenschaften die beiden Dinge ausmachen.

Das Problem liegt wohl etwas abseits deiner Sichtweise:

Allerdings braucht die KI jemand Menschliches, und zwar immer, der überhaupt erst mal definieren kann, dass jetzt genau der Rauhfasertapetenrap die richtige, sinnvolle Lösung ist. Von allein kann die KI das nicht wissen. Es braucht also immer eine menschliche Bewertung. Bei einem neuen Song mag das noch einfach sein - inkl. der "Programmierung" "mache Lied aus R.-Tapete und Rap". Für komplexere Themen, für die KI ja sinnvoll sein könnte/sollte, wird aber auch der vom Menschen zu übernehmende Entscheidungsanteil und auch die Programmierung dafür, dass Das richtige gefunden wird, wieder komplizierter, und ist als Metaebene, nicht von der KI selbst machbar.

Um etwas Neues, aus zwei oder auch mehr "Dingen", oder besser "Informationen" zu machen, braucht es keine Intelligenz. Dafür reicht im einfachsten Fall eine digitale oder analoge "UND" Verknüpfung. Das es bei ausreichender Komplexität auch dafür reicht, Musik und Tapete zu verknüpfen, macht die Angelegenheit kein bisschen intelligenter.

Allerdings braucht die KI jemand Menschliches, und zwar immer, der überhaupt erst mal definieren kann, dass jetzt genau der Rauhfasertapetenrap die richtige, sinnvolle Lösung ist.

Ja, weil KI Stand heute noch keine bzw. nur sehr eingeschränkte Common-Sense-Reasoning-Fähigkeiten hat.

Zwar lernen Menschen aufgrund ihrer evolutionär besser ausgeprägten Common-Sense-Reasoning-Fähigkeiten deutlich schneller und effektiver, was eine Rauhfasertapetenrap ist; fundamental anders ist der Lernansatz davon abgesehen jedoch nicht, denn auch Menschen benötigen Input von anderen Menschen, was etwas ist, um darauf basierend ein Konzept zu entwickeln, welche Eigenschaften etwas zu genau dem machen, was es ist.

Natürlich erscheint die Überlegenheit des Menschen heute noch gigantisch, wenn diese mit nur einem Bild ein akkurateres Verständnis davon entwickeln, was etwas zu etwas macht, als eine KI dies mit mehreren Milliarden Bildern kann; allerdings liegt das eben wie bereits erwähnt wahrscheinlich (nahezu) ausschließlich an den Common-Sense-Reasoning-Fähigkeiten des Menschen, bei denen KI auch immer besser wird.

Menschen haben in ihrem Gehirn ein über viele Millionen Jahre evolutionär gereiftes Verständnis ihrer Umwelt und dessen Physik entwickelt, was KI (noch) fehlt, auf dem sie rasch aufbauen können, um neue Konzepte zu begreifen. Allerdings wird sich das spätestens dann ändern, wenn wir KI in Roboter integrieren und diese dann ebenfalls ihre Umgebung wahrnehmen kann und nicht mehr nur ein Code ist, der in einem riesigen Computer sitzt und mit Milliarden Bildern und Textquellen gefüttert wurde. Letzteres ist für KI nämlich gegenwärtig ihre natürliche Umgebung, und in dieser ist sie schon häufig besser als der Mensch, während es in der realen Welt (noch) andersherum ist.

Das es bei ausreichender Komplexität auch dafür reicht, Musik und Tapete zu verknüpfen, macht die Angelegenheit kein bisschen intelligenter.

Na ja, KI verknüpft die beiden Dinge ja nicht nur, sondern kreiert basierend auf ihrem Verständnis ein neues, nie dagewesenes Werk, was ich schon als Intelligenzleistung ansehe.

Schließlich versteht diese bei einem Raufasertapeten-Rap Semantik und Syntaktik von Sprache, was Raufasertapeten und Raps sind, möglicherweise was Wortspiele sind und was diese sinnvoll und witzig machen etc.