Continental ontwikkelt ethische richtlijn voor kunstmatige intelligentie

Een zelfrijdende auto is voorzien van een groot aantal sensoren en camera’s. De data die met behulp van deze middelen worden verzameld vormen de basis voor beslissingen die het autonome voertuig zelfstandig neemt. Dit levert ook allerlei ethische vraagstukken op. Om deze vraagstukken te beantwoorden werkt Continental aan een ethische code voor het gebruik van kunstmatige intelligentie (AI).

AI speelt een steeds belangrijkere rol in voertuigen. Zo zijn steeds meer voertuigen voorzien van autonome technologie, waarbij de mate van autonomiteit varieert. Zo zijn sommige auto’s voorzien van rijhulpsystemen die ervoor zorgen dat het voertuig in zijn baan blijft of automatisch remt voor obstakels. In andere gevallen kan een voertuig in belangrijke mate zelfstandig rijden, al moeten bestuurders te allen tijde in staat zijn de controle over het voertuig weer over te nemen.

Ethische vraagstukken

Het gebruik van AI-technologie levert echter ook ethische vraagstukken op. Zo moeten soms moeilijke afwegingen worden gemaakt. Een voorbeeld is een situatie waarin een voertuig een botsing met een voetganger alleen kan voorkomen door zich in de vangrail te boren en daarbij de veiligheid van zijn inzittenden in gevaar te brengen. Of een situatie waarin een botsing met een voetganger onvermijdelijk is en het voertuig moet kiezen tussen een botsing met een persoon met een kinderwagen of een ouder persoon.

Continental is van mening dat ethische richtlijnen nodig zijn om dergelijke keuzes te kunnen maken. “AI kan en moet alleen geprogrammeerd en gebruikt worden in overeenstemming met duidelijke ethische principes”, stelt Dirk Abendroth, Chief Technology Officer (CTO) bij Continental Automotive. Abendroth wijst op de grote rol van slimme algoritmes in de automotive industrie, onder meer op het gebied van autonoom rijden. AI-gebaseerde besluitvorming nooit mag discrimineren, benadrukt Continental.

Transparantie en dataveiligheid vergroten

De focus van de nieuwe richtlijn is het vergroten van de transparantie van computer-gebaseerde beslissingen en het vergroten van dataveiligheid. Indien computersystemen belangrijke handelingen overnemen, noemt Continental het een basisvereiste dat de mens blijft begrijpen hoe een zelflerende systeem werkt. De volgende vragen staan hierbij centraal:

• Wat is de herkomst van de data?
• Welke verwerkingsstappen leiden tot welke stappen?
• Hoe zijn de data opgeslagen?
• Zijn processen waarbij AI wordt ingezet in overeenstemming met andere richtlijnen en regelgeving, bijvoorbeeld op het gebied van gelijkheid?

Dergelijke vragen zijn volgens Continental van essentieel belang bij het vormgeven van de mobiliteit van de toekomst. De richtlijn waar het bedrijf aan werkt moet in overeenstemming zijn met Europese ethische richtlijnen voor betrouwbare AI. Uiteindelijk moeten alle locaties van de organisatie aan de richtlijn voldoen, evenals partners waarmee het samenwerkt.

Wie is verantwoordelijk voor een dodelijk ongeluk?
Al langer is er aandacht voor de ethische kant van AI-gebaseerde beslissingen. Zo onderzocht John Kington, hoogleraar Informatiesystemen en Business Computing bij de Britse University of Brighton, wie verantwoordelijk is indien robots voorzien van AI een dodelijke slachtoffer maken. Kington zoomde hierbij in op een drietal juridische modellen die uiteengezet zijn door Gabriel Hallevy, een hoogleraar verbonden aan de faculteit Recht van het Israëlische Ono Academic College. De vraag wie verantwoordelijk is is afhankelijk van het model dat wordt gekozen. Lees hier meer over dit onderzoek.

Moral Machine experiment

De Amerikaanse universiteit MIT ontwikkelde in 2018 het Moral Machine experiment. Dit is een experimenteel online platform ontworpen om morele dilemma’s verbonden aan autonome voertuigen te onderzoeken. Het platform verzamelde 40 miljoen beslissingen in tien talen van 2,3 miljoen mensen wereldwijd. Centraal hierbij staat de vraag of een persoon gedood mag worden indien hiermee meerdere andere personen gered worden. Hieruit blijkt onder meer dat veruit de meeste mensen een mensenleven verkiezen boven een dierenleven, evenals de veiligheid van een groep mensen boven de veiligheid van één persoon.

Tegelijkertijd zijn echter ook sterke verschillen tussen landen zichtbaar. In grove lijnen kan hierbij onderscheid worden gemaakt tussen drie groepen. De eerste groep bestaat uit Noord-Amerika en verschillende Europese landen waar het Christendom de dominante religie is geweest. De tweede groep bevat landen zoals Japan, Indonesië en Pakistan met een sterke Confusische of Islamitische tradities. De derde groep bestaat uit Centraal- of Zuid-Amerika, evenals Frankrijk en de voormalige Franse koloniën. De eerste groep blijkt onder meer eerder bereid te zijn het leven van een ouder persoon op te offeren voor het leven van een jonger persoon dan de tweede groep. Meer informatie is hier te vinden.

Auteur: Wouter Hoeffnagel