Killer robots: een nieuw gevaar op het gebied van kunstmatige intelligentie?

Robotisering neemt een steeds grotere plek in de industrie én ons dagelijkse leven in, ook in Nederland. Maar het heeft ook een keerzijde. Zo zijn er op het moment grote zorgen over robots die in oorlogen worden ingezet.

Verschillende bestuurders van robotbedrijven en andere specialisten rondom dit thema hebben in een open brief gewaarschuwd voor de gevaren van zogenoemde ‘killer robots’. De Verenigde Naties (VN) zijn zelfs opgeroepen om deze specifieke robots een halt toe te roepen. Een van de ondertekenaars is Tesla-topman Elon Musk.

Tijdens een conferentie in Melbourne onlangs, gericht op kunstmatige intelligentie, is de brief openbaar gemaakt. Naast Musk zijn er nog zo’n 115 andere robot-specialisten, uit 26 landen in totaal, die waarschuwen voor het risico van autonome wapens op basis van kunstmatige intelligentie.

Samen

Het is de eerste keer dat AI- en robotbedrijven op deze schaal gezamenlijk een statement maken tegen dit type robots. In 2015 werd ook al een brief gestuurd, maar dat was toen nog door een veel kleinere groep.

Er is voornamelijk vrees voor massaproductie.  “Dodelijke autonome wapens dreigen de derde revolutie in oorlogsvoering te worden”, staat in de brief. “Als ze eenmaal zijn ontwikkeld, zullen gewapende conflicten op een grotere schaal dan ooit tevoren kunnen worden uitgevochten, en veel sneller dan mensen kunnen bevatten.”

Industrialisatie oorlogen

Een belangrijke aanjager van de brief is Toby Walsh, een hoogleraar Artificial Intelligence op de University of New South Wales in Sydney. Hij zegt er het volgende over: “Bijna elke technologie kan gebruikt worden voor goede en slechte doeleinden, en dat geldt ook voor kunstmatige intelligentie. Deze technologie kan veel problemen in de huidige maatschappij helpen aangaan: ongelijkheid en armoede, uitdagingen op het gebied van klimaatverandering en de maar doorgaande financiële crisis. Dezelfde technologie kan echter ook gebruikt worden in autonome wapens en zo oorlogen industrialiseren.”

“We moeten vandaag keuzes maken over welke toekomst we willen. Ik sta in elk geval achter de bedrijven en organisaties die de VN oproepen om zulke wapens te verbieden, net zoals bijvoorbeeld chemische wapens verboden zijn.” 

Nederland

Een van de Nederlandse ondertekenaars is Koen Hindriks. Hij is directeur van de startup Interactive Robots en daarnaast docent aan de TU Delft. Hij ziet het niet zitten dat robots autonoom de belangrijke keuzes kunnen maken die over leven of dood gaan, zo zegt hij tegen Nu.nl. “Er is dan geen controle meer vanuit de mens, wij kunnen niet meer ingrijpen.” Het bedrijf van Hindriks maakt sociale robots, onder meer voor gebruik in het onderwijs. “Dus wij zijn er heel erg voor dat we robots maken die sociaal een positieve functie in de samenleving hebben.”

Elon Musk heeft onder meer uitgesproken dat superslimme robots een bedreiging vormen voor de mensheid en een groter gevaar vormen dan Noord-Korea. Daar zijn veel specialisten, waaronder Hindriks, het niet mee eens. Volgens hen schuilt het gevaar juist in het maken van ‘domme’ robots.

Hacking

Een ander gevaar waar onder meer Musk voor waarschuwt, is de beveiliging. Hij liet onlangs tijdens een interview een voorbeeld zien van een robot die oorspronkelijk bedoeld is als persoonlijke assistent voor mensen die hulp in huis kunnen gebruiken. Hackers hadden de robot aangeleerd om op (nu nog) voorwerpen in te steken.

Door: Kelly Bakker
Bron/foto: Nu.nl/AAP