AI überleben

Dies ist das Jahrhundert zweier Singularitäten – der wirtschaftlichen Singularität (technologische Arbeitslosigkeit) und der technologischen Singularität (Intelligenzexplosion). Beides birgt enorme Chancen und enorme Herausforderungen. Wenn wir sie erfolgreich verwalten, ist unsere Zukunft als Spezies mehr als wunderbar. Wenn wir versagen, könnte es miserabel sein - und vielleicht kurz.
Der Treiber ist Artifizelle Intelligenz (AI) - die leistungsstärkste Technologie der Menschheit. Software, die Probleme löst und Daten in Erkenntnisse umwandelt, hat unser Leben bereits revolutioniert, und die Revolution beschleunigt sich.
Das Argument dieses Buches ist, dass wir die stattfindenden Veränderungen überwachen und Richtlinien verabschieden sollten, die die bestmöglichen Ergebnisse fördern. Die Bandbreite der möglichen Ergebnisse ist groß, vom Schrecklichen bis zum Wunderbaren, und sie sind nicht vorherbestimmt. Sie werden zum Teil durch Glück, zum Teil durch ihre eigene interne Logik, zum Teil aber auch durch die Politik auf allen Ebenen der Gesellschaft ausgewählt.
Automatisierung und Superintelligenz sind die beiden Entwicklungen, von denen wir bereits sehen, dass sie wahrscheinlich enorme Auswirkungen haben werden. Automatisierung könnte zu einer wirtschaftlichen Singularität und der Entwicklung einer völlig anderen Art von Wirtschaft führen. Wenn wir das falsch verstehen, könnte eine Elite die Produktionsmittel besitzen und den Rest von uns in einem dystopischen technologischen autoritären Regime unterdrücken. Wenn wir es richtig machen, könnten wir eine Wirtschaft des radikalen Überflusses genießen, in der niemand arbeiten muss, um seinen Lebensunterhalt zu verdienen, und wir alle frei sind, Spaß zu haben, unseren Geist zu dehnen und unsere Fähigkeiten voll zu entfalten.
Die Ankunft der Superintelligenz wird, falls und wenn sie eintritt, eine technologische Singularität darstellen, die das bedeutendste Ere