Over het boek: 2021 / In het massabewustzijn is bovenmenselijke kunstmatige intelligentie een technologische tsunami, die niet alleen de economie en menselijke relaties bedreigt, maar ook de beschaving zelf. Het conflict tussen mens en machine wordt als onvermijdelijk gezien en de uitkomst ervan staat vooraf vast. Prominent AI-onderzoeker Stuart Russell betoogt dat dit scenario kan worden vermeden. In zijn baanbrekende boek onthult de auteur hoe mensen al hebben geleerd hoe ze AI moeten gebruiken, variërend van dodelijke autonome wapens tot het manipuleren van onze voorkeuren, en wat ze ons nog meer kunnen leren. Als dit gebeurt en bovenmenselijke AI opduikt, zullen we worden geconfronteerd met een entiteit die veel machtiger is dan wijzelf. Hoe zorg je ervoor dat een persoon niet ondergeschikt wordt aan een superintelligentie? Hiervoor moet kunstmatige intelligentie volgens Russell op nieuwe principes worden gebouwd. Machines moeten bescheiden en altruïstisch zijn en onze problemen oplossen, niet die van henzelf. De lezer zal leren wat deze principes zijn en hoe ze te implementeren uit dit boek, dat door de meest gezaghebbende publicaties ter wereld het belangrijkste boek over kunstmatige intelligentie Everything werd genoemd wat de beschaving te bieden heeft, is een product van ons intellect; toegang krijgen tot enorm superieure intellectuele capaciteiten zou de grootste gebeurtenis in de geschiedenis zijn. Het doel van dit boek is uit te leggen waarom dit misschien wel de laatste gebeurtenis van de beschaving is en hoe we een dergelijke uitkomst kunnen voorkomen. De introductie van het concept van nut – een onzichtbare eigenschap – om menselijk gedrag te verklaren door middel van wiskundige theorieën was voor die tijd verbluffend . Bovendien is, in tegenstelling tot geldbedragen, de waarde van verschillende weddenschappen en prijzen in termen van nut niet beschikbaar voor directe observatie Robot kan een mate van onafhankelijkheid bieden die op andere manieren onbereikbaar is. Zelfs als een robot een beperkt aantal taken uitvoert en slechts een rudimentair begrip heeft van wat er gebeurt, kan hij zeer nuttig zijn. Uiteraard zullen de acties van loyale machines beperkt moeten worden door regels en verboden, net als de acties van mensen worden beperkt door wetten en sociale normen. Sommige deskundigen suggereren absolute verantwoordelijkheid als oplossing..