Vrees de mens, niet de machine

Op 24 april praten hoogleraar Militair Operationele Wetenschappen Frans Osinga, Miriam Struyk van PAX en David Levy met elkaar en met jullie over de robotisering van oorlog. Steeds vaker worden automatische en onbemande wapensystemen ingezet. En er wordt gewerkt aan volledig autonome wapens. Deze ‘killer robots’ kunnen, na activering, zonder menselijke controle doelwitten selecteren en uitschakelen.

Wij spraken David Levy, internationaal schaakmeester en pionier op het gebied van Kunstmatige Intelligentie, voorafgaand aan dit event. Hij maakt zich grote zorgen over terroristen en ‘lone wolves’ die met deze wapensystemen aan de haal kunnen gaan, en vindt dat wij ons ook zorgen moeten maken.

Eerst even de nuance. Levy ziet namelijk zowel de positieve als de negatieve kanten van deze vorm van oorlogvoering. “Het positieve is dat je gerichter kunt kiezen wat je aanvalt of vernietigt, zodat je er bijvoorbeeld voor kunt zorgen dat er geen vrouwen en kinderen gedood worden. Ook spaar je met deze vorm van oorlogvoering soldatenlevens. De andere kant van de medaille is dat zo’n autonoom wapensysteem juist op plekken kan komen waar het voor soldaten te onveilig is en dat kan ertoe leiden dat we niet weten hoeveel slachtoffers er gemaakt worden. Controle ontbreekt.” Levy geeft toe dat het een complex vraagstuk is. Maar voor hem is de morele kant van het verhaal het allerbelangrijkste. “Oorlog is geen computergame. Het gaat om mensenlevens, dat is geen spelletje.”

Een individu kan complete chaos en verwoestingen veroorzaken

De ontwikkelingen op het gebied van Kunstmatige Intelligentie ofwel Artificial Intelligence (AI) gaan razendsnel. “Mensen hebben steeds meer kennis en kunde en gebruiken die ook bij de ontwikkeling van computers en robots. Kijk maar naar de huidige generatie schaakcomputers.” Toen Levy in 1968 ruim duizend pond inzette op zijn stelling dat er binnen tien jaar geen computersoftware ontwikkeld zou worden die hem kon verslaan in een schaakwedstrijd (The Levy Challenge), kreeg hij meer dan gelijk. Pas in 1989 werd de grootmeester verslagen door een computer.

In 1997 lukte het computer Deep Blue de wereldkampioen schaken van dat moment, Garry Kasparov, te verslaan. Sindsdien is de vooruitgang niet meer te stoppen. “AlphaZero is zo’n voorbeeld. Hieraan zijn alleen de regels van het spel toegevoegd, niet bijvoorbeeld kennis als ‘de koningin is machtiger dan het paard’. AlphaZero creëert die kennis zelf en heeft daarmee een bovenmenselijk spelniveau.” Voor Levy is het zonneklaar: “Een computer kan een schaakkampioen verslaan. Er zijn sinds 1886 meer Amerikaanse presidenten geweest dan schaakkampioenen, dus op termijn kan een computer ook president van de VS worden.”

Computers kunnen niet alleen bovenmatig intelligent zijn, maar ook gevoelens hebben. “Emoties kun je programmeren.” In zijn beroemde boek ‘Love and sex with robots’ (2007), de populaire versie van zijn gelijknamige proefschrift waarmee hij is gepromoveerd aan de Universiteit Maastricht, stelt Levy dat het rond 2050 mogelijk én sociaal geaccepteerd zal zijn om een robotpartner te hebben.

“Er bestaan al robots die eruit zien als mensen. Kijk naar de robots van de Japanse ingenieur Hiroshi Ishiguro. Ze praten met je, reageren als een mens en voelen zelfs warm aan. Ik denk dat veel eenzame mensen liever een robot als partner hebben dan geen partner. En waarom ook niet? Opvattingen veranderen. Kijk naar de acceptatie van gemengde of homohuwelijken in grote delen van de wereld. Dat was vroeger ondenkbaar. In de toekomst is een relatie met een robot heel normaal.”

Terug naar de oorlogvoering. Volgens Levy zijn niet de robots, maar de mensen nog steeds ‘in control’, omdat regeringen zich kunnen beroepen op wetten en regels. Maar ja, niet iedereen accepteert die wetten en regels. Daarom moeten we ons volgens hem grote zorgen maken om terroristen en ‘lone wolves’.

“Vergeet niet, Kunstmatige Intelligentie is slechts software. Daar kunnen mensen misbruik van maken, en dat gebeurt ook al. Kijk naar de vele recente computerhacks met verstrekkende gevolgen, zoals de cyber attack bij mij in de UK op ziekenhuiscomputers. En het is bekend dat je de Amerikaanse samenleving kunt ontwrichten als je drie energiecentrales uitschakelt. Wie beschermt ons tegen mensen die dat willen doen? Uit politieke of religieuze overwegingen of gewoon voor de lol, omdat ze het als één grote game zien? Eén individu kan complete chaos en verwoestingen veroorzaken.”

Volgens Levy doen overheden te weinig tegen deze dreiging. Dat baart hem zorgen. “Ik heb hét antwoord op de dreiging van terroristen en lone wolves ook niet. Maar overheden zouden een eerste stap kunnen zetten en bijvoorbeeld de verkoop van drones aan consumenten aan banden kunnen leggen. Nu koop je voor pakweg €200 een drone waarmee je als je kwaad wilt heel wat schade kunt aanrichten, bijvoorbeeld door hem uit te rusten met biologische wapens. Ik zou zeggen: laat alleen militairen en overheden gebruikmaken van dit soort drones en stel strenge eisen aan het gebruik van speelgoeddrones als het gaat om hoogte en afstand die zij kunnen afleggen. Anders is het een kwestie van tijd voordat we de eerste drone-aanval door een particulier gaan meemaken.”

Levy hoopt dat zijn bijdrage aan onze Alternatieve Veiligheidsraad de aanwezigen wakker schudt. Dat wordt hoog tijd, vindt hij. “Ik ben lang niet de enige en niet de eerste die waarschuwt voor de gevaren van autonome wapensystemen. Al in augustus 2015 ondertekenden honderden AI- en robotpioniers als Elon Musk en wijlen Stephen Hawking een open brief aan de Verenigde Naties, waarin ze de VN opriepen tot actie en regulering. Twee jaar later herhaalden ze die oproep en vroegen om een verbod op de ontwikkeling en het gebruik van killer robots.”

Levy staat niet in het rijtje ondertekenaars, maar deelt de zorgen van de briefschrijvers: “Ik heb niet zoveel vertrouwen in de effectiviteit van de VN Veiligheidsraad, maar laten we er alsjeblieft met zijn allen voor zorgen dat mijn angsten niet bewaarheid worden.”

Kom luisteren naar David Levy tijdens De Robotisering van oorlog, 24 april in het Paard.