Nu denken ze zelf na: Moeten we bang zijn voor robots?
Er duiken verhalen op over slimme robots met bewustzijn – en nu waarschuwen zes vooraanstaande roboticabedrijven dat je hun robots niet mag gebruiken om anderen kwaad te doen. Maar waarom is zo’n waarschuwing nodig – moeten we bang zijn voor robots? Het antwoord is ingewikkeld.
In de film The Matrix uit 1999 hebben robots de mensheid tot slaaf gemaakt, en in de Terminator-films woedt er een vernietigingsoorlog tussen de mens en een intelligent wapensysteem.
Populaire cultuur zit vol spectaculaire oorlogen tussen robots en mensen, maar volgens onderzoekers schuilt het gevaar meer in gewone, schijnbaar vreedzame robots.
Robots worden zo slim dat hun kunstmatige intelligentie ons niet alleen kan verslaan met schaken en onze auto’s voor ons kan besturen – ze kan nadenken over zichzelf, en dat is behoorlijk complex.
De deskundigen zijn verdeeld: de pleitbezorgers voorspellen een prachtige toekomst met robothulpjes, terwijl critici een en al onheil voor zich zien.
Wie moeten we geloven?
Minirobot krijgt bewustzijn
Kunstmatige intelligentie kent globaal vier niveaus. Robots bevinden zich tot nu toe vooral op het primitiefste niveau: ze reageren op specifieke input en zijn goed in bepaalde taken. Een voorbeeld is Deep Blue van IBM, die de wereldkampioen schaken Garri Kasparov versloeg.
Op een niveau hoger kunnen robots leren van ervaring. Spraakassistent Siri leert zo je stem te herkennen en wordt beter in het beantwoorden van je vragen.
Op de derde sport van de AI-ladder begrijpen de robots niet alleen wat je zegt, maar ook wat je denkt en voelt – ze leiden dat af uit bijvoorbeeld je woordkeuze en de toon van je stem. Begin 2023 toonde een onderzoeker van Stanford University aan dat de chatbot ChatGPT de mensachtige ‘intuïtie’ heeft van een negenjarige.
Op het hoogste niveau van AI staat zelfbewustzijn. Hiermee kunnen robots complexe gesprekken voeren met een mens, terwijl ze nadenken over ‘wie’ ze zijn in relatie tot andere dingen en tot de individuen om hen heen.
Zo gaf een exemplaar van de minirobot NAO ons een voorproefje van zelfbewustzijn tijdens een experiment in 2015. Twee andere NAO’s werden monddood gemaakt met wat de programmeurs een ‘verdovingspil’ noemden.
Aan alle drie de robots werd gevraagd wie de pil had gekregen.
De onschuldig ogende robot NAO haalde in 2015 de krantenkoppen toen hij slaagde voor een zelfbewustzijnstest.
Twee van hen konden niet spreken, maar de derde zei: ‘Ik weet het niet.’ Maar toen corrigeerde hij zichzelf en zei: ‘Sorry, nu weet ik het. Ik kan bewijzen dat ik de pil niet heb gekregen.’
De robot wist dus wie hij was ten opzichte van de twee stomme robots.
Robotarm is als een spelend kind
In 2022 kwam er nieuws over een nieuwe robotarm gebouwd aan Columbia University in de VS.
De arm vangt bijvoorbeeld een bal zonder dat zijn bewegingen door mensen zijn geprogrammeerd. Hij heeft geleerd om het zelf te doen.
De robotarm bewoog eerst aarzelend, vrij en zonder doel, terwijl vijf camera’s zijn bewegingen registreerden. Hij leerde van de opnamen hoe hij zichzelf moest strekken en buigen en draaien, enzovoort.
De robot ging voorzien waar hij heen zou bewegen als hij bepaalde gewrichten met een bepaalde kracht zou activeren.
Hij werd zich met andere woorden bewust van zijn eigen lichaam – als een kind dat leert navigeren in de wereld.
Robot wordt zich bewust van zijn lichaam
Ingenieurs van Columbia University hebben als eersten een robot ontwikkeld die zich bewust is van zijn eigen ‘lijf’. Zonder input van mensen doorziet hij de relatie tussen zijn bewegingen en de ruimte die hij inneemt.
1. Camera’s filmen het spel van robotarm
De robotarm buigt, komt omhoog en omlaag terwijl vijf camera’s dat filmen en de input naar zijn kunstmatig intelligente besturingscomputer sturen. Zoals een kind in een spiegelzaal leert de robot hoe de bewegingen eruitzien.
2. Robot maakt model van bewegingen
De kunstmatige intelligentie van de robotarm tekent de vorm van zichzelf en de richting van zijn bewegingen. Bij elke beweging worden de tekeningen een beetje preciezer, waardoor de arm zichzelf steeds beter kan besturen.
3. Zelfbewuste AI lost taken op
Uit deze ervaring heeft de robot een zelfbeeld gevormd – een vorm van zelfbewustzijn – en nu kan hij zich voorstellen waar hij heen kan gaan als hij bepaalde bewegingen maakt. Daardoor kan hij bijvoorbeeld een bal vangen.
Sommige robotica-ingenieurs zijn hier razend enthousiast over. Ze voorspellen dat robots ons leven veel makkelijker gaan maken in bijvoorbeeld fabrieken en verpleeghuizen.
Hod Lipson, een van de onderzoekers achter de bewuste robotarm, denkt zelfs dat zelfbewuste robots een grotere doorbraak zullen zijn dan het genezen van kanker, want een zelfbewuste robot kan dat probleem oplossen, en nog veel meer andere.
Andere deskundigen zien de toekomst somberder in.
Waarschuwing van Elon Musk
In 2017 ondertekenden 1000 deskundigen op het vlak van technologie en AI, onder wie Elon Musk, een brief aan de wereld waarin ze waarschuwen voor autonome robots.
Het gevaar is zonneklaar op het slagveld. Zo vuurden Kargu-2-drones in 2020 op Libische rebellen zonder dat er een mens aan te pas was gekomen. De aanval was het eerste bekende voorbeeld van het gebruik van autonome wapens in actieve oorlogsvoering.
Maar zelfs als we legerrobots buiten beschouwing laten, zijn ze soms dodelijk.
‘Als deze doos van Pandora eenmaal open is, gaat hij nauwelijks meer dicht.’ Open brief van meer dan 1000 deskundigen op het vlak van AI
Neem nu de bekende robothonden, waarvan Spot van het Amerikaanse bedrijf Boston Dynamics de bekendste is.
Door zijn vermogen om trappen te beklimmen en obstakels te overbruggen, kan deze hond bommen opruimen of helpen bij natuurrampen.
Maar een sterke, wendbare robothond kent ook andere toepassingen. Op internet zijn filmpjes te zien van robothonden die machinegeweren afvuren die op hun rug zijn gemonteerd.
De combinatie van een wapen en een ultramobiele robot die tot bewustzijn kan komen, bezorgt niet alleen veel internetgebruikers de koude rillingen, maar ook mensen in de robotica-industrie.
‘Kunstmatige intelligentie kan het beste of het slechtste worden wat de mens ooit is overkomen.’ Stephen Hawking, theoretisch natuurkundige
In 2022 hebben zes toonaangevende roboticabedrijven, waaronder Boston Dynamics, een gezamenlijke verklaring afgelegd: hun huidige robots mogen niet worden bewapend of worden gebruikt om mensen schade toe te brengen.
Maar zelfs zonder geweren op hun rug kunnen robots heel gevaarlijk zijn.
Autonomie is bedreigend
Elke computer kan gehackt worden, ook de computers die het ‘brein’ van robots zijn. Neem het terreinwagentje Husky, dat onder meer radioactief afval verwerkt.
De robot ontheft de mens van die gevaarlijke taak, maar kan gehackt worden en de gevaarlijke stoffen gaan gebruiken om mensen te schaden.
Zelfs als ze goed beschermd zijn tegen hackers, blijft er een risico dat robots een fout maken. Dat is al verschillende keren gebeurd met robots die de controle over auto’s overnemen.
In 2018 werd een 49-jarige voetganger met een fiets aangereden en gedood door een zelfrijdende Uber-auto in Arizona, VS, omdat de AI niet kon bepalen of hij moest uitwijken – tot het te laat was.
En begin 2023 kwam er een rapport uit dat documenteert dat de kunstmatig intelligente zelfrijdende auto’s van Tesla 19 levens op hun geweten hebben.
Maar de ultieme angst is dat robots op het intelligentste niveau – met intuïtie en bewustzijn zoals wij – op hol slaan, en dat wij de controle over hen zullen verliezen.
Paperclips kunnen onze ondergang worden
Met geavanceerde AI kunnen we nooit voorspellen hoe robots zullen denken en handelen, aldus verschillende experts, onder wie futuroloog Nick Bostrom.
Als robots zeer intelligent worden, kunnen ze met de beste bedoelingen toch levensgevaarlijk worden.
In 2018 werd de 49-jarige Elaine Herzberg gedood door een zelfrijdende auto van Uber toen ze met haar fiets aan de hand overstak in Arizona, VS.
Bostrom is vooral bekend vanwege een gedachte-experiment: Als we een geavanceerde kunstmatige intelligentie de taak geven om zo veel mogelijk paperclips te produceren, zou die kunnen ontdekken dat ze meer paperclips kan maken als mensen niet meer leven – wij kunnen immers de productie verstoren door de robot uit te schakelen.
Ze zou zelfs onze lichamen kunnen gebruiken als grondstof voor paperclips.
Bostrom bedacht dit scenario om te laten zien dat een zelfbewuste robot mogelijk niet te sturen is, zelfs als je hulp vraagt bij beperkte praktische taken.
Robots kunnen onze ergste vijanden worden
1. Kunstmatige intelligentie valt te hacken
Elke computer valt te hacken, dus ook een zelfrijdende auto. Dit werd in 2015 aangetoond door twee beveiligingsexperts die de controle over het gaspedaal en de remmen van een Jeep Cherokee overnamen en hem in een greppel reden.
2. Kunstmatige intelligentie maakt fouten
In 2018 reed een zelfrijdende Uber op een donkere weg in Arizona, VS. Toen een vrouw met haar fiets aan de hand voor de auto overstak, besefte de auto niet op tijd dat het een voetganger was. De vrouw kwam om het leven.
3. AI keert zich tegen ons
Zelfs ‘onschuldige’ taken kunnen fataal zijn. Toen onderzoekers in 2015 een AI vroegen om een vliegtuig in een simulatie met minder energie te laten landen, liet de robot het neerstorten, want dat kost de minste energie.
Roboticabedrijven die waarschuwen tegen het gebruik van hun creaties als wapens, zijn optimistisch en ‘kijken uit naar een mooie toekomst waarin mensen en robots zij aan zij werken om enkele van de wereldproblemen op te lossen’.
Als we wijlen natuurkundige Stephen Hawking mogen geloven, zal de toekomst inderdaad heel mooi zijn – of heel duister. In 2018 zei hij over de ontwikkeling van geavanceerde kunstmatige intelligentie: ‘Het beste of het slechtste wat de mens ooit is overkomen.’