AI Robots kunstmatige intelligentie

Wetenschappers slaan alarm: Zo kunnen AI-robots de mensheid wegvagen

Dat kunstmatige intelligentie in de toekomst de mensheid kan wegvagen is niet alleen mogelijk, maar zelfs waarschijnlijk, aldus een nieuw rapport.

Dat kunstmatige intelligentie in de toekomst de mensheid kan wegvagen is niet alleen mogelijk, maar zelfs waarschijnlijk, aldus een nieuw rapport.

Shutterstock

De ergste nachtmerrie van de mensheid, dat intelligente machines de aarde overnemen, zou zomaar werkelijkheid kunnen worden.

Dat sombere bericht komt voort uit een nieuw onderzoek naar het inherente beloningssysteem van kunstmatige intelligentie (AI). Volgens de onderzoekers zullen de geavanceerde machines alles doen om een hoge score te behalen – zelfs als dat mensenlevens kost.

Een van de onderzoekers is Marcus Hutter. Hij is hoogleraar informatica aan de Australian National University en doet daarnaast onderzoek naar kunstmatige intelligentie bij het AI-project DeepMind van Google.

Robotwet gaat mogelijk niet op

De eerste wet van de robotica, in 1942 bedacht door sciencefictionauteur Isaac Asimov, luidt dat een robot een mens geen letsel mag toebrengen of mag toestaan dat een mens letsel oploopt.

Maar puur wetenschappelijk bekeken is het volgens het nieuwe onderzoek, dat is gepubliceerd door het collegiaal getoetste wetenschappelijke tijdschrift AI Magazine, zo dat we onmogelijk kunnen begrijpen of simuleren hoe een hyperintelligent AI-systeem in elke situatie zal handelen.

Intern beloningssysteem

Om te begrijpen waarom AI potentieel zo gevaarlijk is, moeten we kijken naar de tweeledige opbouw van kunstmatige intelligentie.

Eén helft voert door mensen opgedragen taken uit, zoals afbeeldingen maken op basis van woorden of complexe kansberekening. De andere helft is een intern beloningssysteem, om de berekeningen continu te optimaliseren.

De angst van de onderzoekers is dat een uiterst intelligent computersysteem op den duur uit zichzelf zijn beloningssysteem zodanig zal optimaliseren dat dit het einde van de mensheid betekent.

Eigen spelregels

Ze gaan ervan uit dat we een AI-systeem zullen ontwikkelen dat zo intelligent is dat het ons met gemak in elk bordspel kan verslaan.

Een beetje zoals wij met twee vingers in de neus een chimpansee verslaan met schaken.

Als we obstakels creëren voor een AI-systeem, zal het zijn winkansen voortdurend optimaliseren op een manier die wij niet begrijpen, net zoals een chimpansee niet beseft dat hij elk moment schaakmat kan staan.

Dus zelfs als we proberen het systeem uit te schakelen, zal een naar beloning hongerend AI-systeem in een netwerk met andere AI-systemen zonder dat wij het beseffen tegenzetten paraat hebben, die de regels van een gewoon schaakspel ver te boven gaan.

’Een voldoende geavanceerde kunstmatige agent zou waarschijnlijk ingrijpen, met desastreuze gevolgen,’ is de ontmoedigende conclusie van het rapport.

Werken aan tegenmaatregelen

Diverse IT-bedrijven werken aan oplossingen om te voorkomen dat onze eigen computercreaties ook onze beul worden.

Zo werkt Google sinds 2016 aan een stopknop, die een AI-systeem dat amok maakt, kan uitschakelen.

In het verleden hebben wetenschappers en tech-coryfeeën als Stephen Hawking, Bill Gates en Elon Musk al gewaarschuwd dat AI de mensheid mogelijk kan uitroeien, omdat we niet begrijpen hoe AI zichzelf optimaliseert.

Dus behalve dat AI ons helpt met chatbots, gezichtsherkenning, apps en nog veel meer, zullen de schaduwkanten door dit sombere onderzoeksrapport ook weer meer aandacht krijgen.