Robots vinden hun eigen taal uit
Twee Facebook-robots hebben een eigen taal uitgevonden, waardoor hun ontwikkelaars ze niet meer kunnen volgen. Het project is gestaakt, maar het verschijnsel is niet nieuw binnen de kunstmatige intelligentie.
Voor mensen is het abracadabra, maar robots begrijpen elkaar.
Bob: ‘I can can I I everything else.’
Alice: ‘Balls have zero to me to me to me to me to me to me to me to me to.’
Zo klonk het gesprek tussen de twee chatbots Bob en Alice, die van Facebook moesten overleggen over een aantal spullen (zoals twee boeken, een hoed en drie ballen) om tot een verdeling te komen.
Abracadabra voor mensen
De robots vonden een codetaal uit waarin ze recht op hun doel afgingen en onnodige woorden en zinnen buiten beschouwing lieten. Helaas werd het gesprek daardoor onbegrijpelijk voor mensen.
Facebook wil gespreksrobots ontwikkelen die een dialoog kunnen aangaan met mensen en niet alleen met elkaar. Onder meer om die reden werd het project gestaakt.
Bovendien waren de onderzoekers bezorgd omdat ze het gesprek zelf niet konden volgen.
Kunstmatige intelligentie bevordert robottaal
Dat robots een manier verzinnen om te communiceren als ze aan zichzelf en hun eigen kunstmatige intelligentie zijn overgelaten, is niet nieuw. Dat blijkt uit verschillende onderzoeksprojecten (zoals dit en dit).
Dat kan bepaalde voordelen hebben. Zo worden onze systemen er sneller van.
Als robots zich door geavanceerde gegevens heen moeten werken en met mederobots moeten communiceren, doen ze dat veel effectiever met hun eigen gezamenlijke, besloten codetaal.
Het probleem is dat wij mensen niet achter het proces kunnen kijken, en dat kan afschrikwekkende consequenties hebben.
Het voedt vooral de angst bij mensen die denken dat robots de wereldheerschappij gaan overnemen.
Zo ziet het overleg tussen Bob en Alice eruit.