NIEUWS

Wetenschap 04 augustus 2015

Pas op voor de killer robots

Robots die zelf besluiten om mensen neer te schieten zijn volgens experts helemaal niet meer zo ver van ons verwijderd. “De technologie bestaat, het is realistisch om te denken dat ze binnen korte tijd kunnen worden ingezet”, zegt robotonderzoeker Matthijs Pontier.

Wetenschappers in robotica en kunstmatige intelligentie voeren massaal actie voor een wereldwijd verbod op killer robots. Een open brief hierover is al door ruim 2500 experts getekend. Onder hen zijn ook enkele tientallen VU-wetenschappers, van hoogleraren tot promovendi. Pontier is een van de ondertekenaars.

Is het realistisch dat er een verbod komt op killer robots?

Pontier: “Dit is een  breed gedragen initiatief. Veel onderzoek op het gebied van kunstmatige intelligentie wordt betaald uit defensiegeld, toch spreken al deze onderzoekers zich uit tegen de ontwikkeling en inzet van autonome wapens. Dat is veelzeggend. Of er naar geluisterd wordt, moeten we afwachten."

Wat zijn de belangrijkste bezwaren tegen autonome wapens?

“Ten eerste bestaat altijd de mogelijkheid dat robots gehackt worden, ook deze. Een ander  bezwaar is dat oorlogsvoering zo wel erg laagdrempelig gaat worden voor de partij met het technologisch overwicht. Een leger dat bestaat uit mensen zet je veel minder gemakkelijk in dan een leger dat bestaat uit robots. Daarnaast zouden we in mijn ogen überhaupt geen robots moeten ontwikkelen die bedoeld zijn om mensen te doden, maar dat gebeurt nu natuurlijk ook al met drones."

Kun jij je iets voorstellen bij een zinvolle inzet van autonome wapens, bijvoorbeeld in VN-verband?

“Nee, ik vind dat we daar niet aan moeten beginnen. De risico’s zijn te groot.”

In tegenstelling tot menselijke soldaten slaan robots niet aan het plunderen en verkrachten, zeggen voorstanders. Ook kun je ze uitrusten met ethische normen.

“Ja, dat kan inderdaad. Dat heb ik gedaan met zorgrobots. Maar een vechtrobot met goede ethische normen zou in heel veel gevallen weigeren te schieten. Daar hebben opdrachtgevers dan weer niets aan. Toch is het wel heel belangrijk om goede ethische codes te ontwikkelen voor robots. Het is realistisch om te denken dat robots nog deze eeuw intelligenter zullen worden dan wij. Dan is het belangrijk dat ze een goede ethiek hebben meegekregen."

Ik zie een sciencefiction horrorfilm voor me waarin de robots de mensheid uitmoorden.

“Dat is niet ondenkbaar. Niet omdat ze iets tegen mensen hebben, maar bijvoorbeeld omdat mensen in de weg staan bij hun voorgeprogrammeerde doel. Daarom is het zo belangrijk dat de ontwikkeling van machine ethics gelijk opgaat met technologische ontwikkeling.”

Welmoed Visser

hits 11

Reageren?

Houd je bij het onderwerp, en toon respect: commerciële uitingen, smaad, schelden en discrimineren zijn niet toegestaan. De redactie gaat niet in discussie over verwijderde reacties.

Deze vraag is om te controleren dat u een mens bent, om geautomatiseerde invoer (spam) te voorkomen.