Robotwet gaat mogelijk niet op
De eerste wet van de robotica, in 1942 bedacht door sciencefictionauteur Isaac Asimov, luidt dat een robot een mens geen letsel mag toebrengen of mag toestaan dat een mens letsel oploopt.
Maar puur wetenschappelijk bekeken is het volgens het nieuwe onderzoek, dat is gepubliceerd door het collegiaal getoetste wetenschappelijke tijdschrift AI Magazine, zo dat we onmogelijk kunnen begrijpen of simuleren hoe een hyperintelligent AI-systeem in elke situatie zal handelen.
Intern beloningssysteem
Om te begrijpen waarom AI potentieel zo gevaarlijk is, moeten we kijken naar de tweeledige opbouw van kunstmatige intelligentie.
Eén helft voert door mensen opgedragen taken uit, zoals afbeeldingen maken op basis van woorden of complexe kansberekening. De andere helft is een intern beloningssysteem, om de berekeningen continu te optimaliseren.
De angst van de onderzoekers is dat een uiterst intelligent computersysteem op den duur uit zichzelf zijn beloningssysteem zodanig zal optimaliseren dat dit het einde van de mensheid betekent.
Eigen spelregels
Ze gaan ervan uit dat we een AI-systeem zullen ontwikkelen dat zo intelligent is dat het ons met gemak in elk bordspel kan verslaan.
Een beetje zoals wij met twee vingers in de neus een chimpansee verslaan met schaken.
Als we obstakels creëren voor een AI-systeem, zal het zijn winkansen voortdurend optimaliseren op een manier die wij niet begrijpen, net zoals een chimpansee niet beseft dat hij elk moment schaakmat kan staan.
Dus zelfs als we proberen het systeem uit te schakelen, zal een naar beloning hongerend AI-systeem in een netwerk met andere AI-systemen zonder dat wij het beseffen tegenzetten paraat hebben, die de regels van een gewoon schaakspel ver te boven gaan.
’Een voldoende geavanceerde kunstmatige agent zou waarschijnlijk ingrijpen, met desastreuze gevolgen,’ is de ontmoedigende conclusie van het rapport.
Werken aan tegenmaatregelen
Diverse IT-bedrijven werken aan oplossingen om te voorkomen dat onze eigen computercreaties ook onze beul worden.
Zo werkt Google sinds 2016 aan een stopknop, die een AI-systeem dat amok maakt, kan uitschakelen.
In het verleden hebben wetenschappers en tech-coryfeeën als Stephen Hawking, Bill Gates en Elon Musk al gewaarschuwd dat AI de mensheid mogelijk kan uitroeien, omdat we niet begrijpen hoe AI zichzelf optimaliseert.
Dus behalve dat AI ons helpt met chatbots, gezichtsherkenning, apps en nog veel meer, zullen de schaduwkanten door dit sombere onderzoeksrapport ook weer meer aandacht krijgen.
