Nick Bostrom: Superintelligenz – Sachbuch (Suhrkamp)

Was geschieht, wenn es gelingt, eine Maschine zu bauen, die die menschliche Intelligenz auf so gut wie allen Gebieten übertrifft? Der Oxforder Philosoph Nick Bostrom hat mit „Superintelligenz“ eines der meistdiskutierten Bücher über die langfristigen Risiken der KI geschrieben. 

Wege zur Superintelligenz

Bostrom führt in die Welt der Superrechner und Gehirnsimulationen und in die Labore, in denen an künstlicher Intelligenz gearbeitet wird. Er skizziert, auf welchen Wegen eine Superintelligenz entstehen könnte, welche Formen sie annehmen und wie schnell eine Intelligenzexplosion ablaufen könnte. 

Das Kontrollproblem

Eine solche Superintelligenz wäre enorm mächtig und würde uns vor riesige Kontroll- und Steuerungsprobleme stellen; die Zukunft der Menschheit läge dann womöglich in ihren Händen, so wie heute die der Gorillas von uns abhängt. Ein großer Teil des Buches widmet sich deshalb der Frage, wie sich ein solches System kontrollieren und mit Werten ausstatten ließe. Bostroms Fazit laut Verlag: Man müsse kollektiv handeln, „bevor der Geist aus der Flasche gelassen ist – also jetzt!“ 

Für wen eignet sich „Superintelligenz“?

Für Leser, die sich für KI-Sicherheit und Zukunftsszenarien interessieren und eine anspruchsvolle, philosophisch argumentierende Lektüre nicht scheuen.