In hoeverre is zo’n actieve samenwerking wenselijk, vraagt Joshua Cohen zich af.

Volgens een artikel in het Financieele Dagblad had Huawei Amsterdam al langer op het oog vanwege de goede reputatie van onze AI-wetenschappers op het gebied van zoektechnologie en beeldherkenning. De Chinese techreus met activiteiten op het gebied van communicatietechnologie en smart cities over de hele wereld, zegt in totaal 3,5 miljoen euro toe. Na de financiering van enkele kleine projecten wordt met het nieuwe samenwerkingsverband in eerste instantie ingezet op de financiering van een kleine groep promovendi en postdocs. Het geld wordt specifiek geïnvesteerd in de opleiding van nieuw talent dat zich bezig zal houden met de verbetering van zoekmachines. Deze onderzoekers mogen gebruikmaken van de data van het bedrijf. Wanneer het lab succesvol bevonden wordt, zou het de opmaat kunnen bieden voor een volwaardig onderzoekscentrum met 100 mensen.

Nieuwe samenwerkingen universiteiten en bedrijfsleven

Waarom gaan wetenschappers überhaupt in zee met bedrijven? Mede geïnspireerd door ideeën als de triple-, quadruple- (en nu zelfs quintuple) helix-literatuur zoeken universiteiten steeds vaker de samenwerking op met niet-universitaire partners. Naast toegang tot bedrijfsdata en de mogelijkheid om te werken met praktijkvoorbeelden, is het voordeel dat dergelijke samenwerkingen kunnen leiden tot betere uitwisseling en verbeterde toepassing van resultaten en producten.

Vanuit een cynischer blik zien we private bedrijven en techreuzen het vacuüm dichten dat de afkalving van publieke fondsen voor de wetenschap heeft achtergelaten. Feit is dat fondsen uit de rijksbijdrage (eerste geldstroom) over de jaren in relatieve termen steeds minder zijn geworden. In de plaats daarvan is er meer nadruk op competitie via de NWO (tweede geldstroom) en contractonderzoek (derde geldstroom).

Vanuit een cynischer blik zien we private bedrijven en techreuzen het vacuüm dichten dat de afkalving van publieke fondsen voor de wetenschap heeft achtergelaten

Dat laatste kan erg aantrekkelijk lijken en gebeurt al veel. Zoals VU-hoogleraar Frank van Harmelen opmerkt: “We werken ook met Elsevier, ING, Qualcomm, de chipbakker, samen en de onderhandelingen [met Huawei] gaan in principe over hetzelfde. De absolute voorwaarde die we hebben, is dat we over al onze kennis volledige publicatievrijheid hebben. We mogen nieuwe algoritmes publiceren en alle software is open source.”

Wel is het zo dat Huawei, als financier van het onderzoek, recht heeft om als eerste patent aan te vragen op de nieuwe algoritmen en technieken. Bovendien is er bij positieve evaluaties de mogelijkheid tot langdurigere en uitgebreidere samenwerking in de toekomst.

Huawei is niet onomstreden

Over wat voor bedrijf hebben we het nu eigenlijk? Mede dankzij leningen van de Chinese staatsbanken is het bedrijf actief in 90 landen en 230 steden. Huawei is gespecialiseerd in communicatietechnologie en geïntegreerde smart city toepassingen. Zo is Huawei ook één van de betrokkenen bij de Amsterdam Innovation Arena in de Bijlmer, wat wordt verkocht als de “world’s leading smart playground” en waar ze experimenteren met slimme technologie op het gebied van faciliteitsmanagement tot en met veiligheid. Sinds kort is Huawei ook wereldwijde marktleider van smartphones.

Huawei is niet onomstreden. Afgelopen week werden al een hoop vraagtekens gezet bij hoe de nieuwe samenwerking mogelijk de Chinese overheid in de kaart speelt. De VS beschuldigden Huawei onlangs van spionage voor de Chinese overheid en het VK heeft recent besloten om Huawei te weren bij de aanleg van nieuwe 5G-netwerken. Ook de samenwerking in Amsterdam wordt nu onder een dergelijke loep genomen tot Kamervragen aan toe.

Meerdere bronnen laten zien dat Huawei een centrale rol speelt in het ondersteunen van de surveillancetechnologie die alle bewegingen van Oeigoeren volgt

Vindt Van Harmelen deze samenwerking met Huawei dan echt net zo gewoon als met Elsevier of ING? “Tuurlijk is het een verhaal apart, maar dat komt vooral door de buitenwereld. We hebben de gebruikelijke onderhandelingen gevoerd over intellectueel eigendom en kosten, maar dit keer speelt ook de maatschappelijke reuring mee. Over 5G, vermoedelijke spionage en beïnvloeding. Ik weet niet wat daarvan waar is, maar China is een totalitaire staat, met een ander idee over privaat en publiek.”
“Daarom hebben we een aantal waarborgen sterker aangezet. We hebben volledige publicatievrijheid, de onderzoekers zijn niet in dienst van Huawei, en alle data staan op de universitaire servers, dus niemand bij Huawei kan erbij. Ik ben er echt van overtuigd dat het goed geregeld is.”

“Het is ook niet zo dat wij productontwikkelaar zijn. De prototypes die uit ons onderzoek komen, de algoritmes en software, zijn interessant voor andere wetenschappers. Je weet dan hoe het moet. Bedrijven die er iets mee willen, moeten er dan nog helemaal zelf een product van maken.”

De betrokken hoogleraren verdedigen de samenwerking dus door te verwijzen naar de afspraken die zijn gemaakt op het gebied van publicatievrijheid, dataveiligheid en door te verwijzen naar gesprekken met de ministeries van Economische Zaken en Onderwijs, Cultuur en Wetenschap en met de inlichtingendiensten over de risico’s met betrekking tot spionage en diefstal van intellectueel eigendom[1]. Het enige echt overblijvende risico is volgens Van Harmelen van de VU vooralsnog een ‘ontsporende maatschappelijke discussie’.

Huawei als de moderne IG Farben

Wat in deze discussie tot nu toe redelijk achterwege gelaten wordt, is de rol die Huawei speelt in de hedendaagse onderdrukking van Oeigoeren in de Chinese provincie Xinjiang. Op basis van onder andere uitgebreid onderzoek[2] van het International Cyber Policy Centre van het Australian Strategic Policy Institute, een gerenommeerde Australische denktank op het gebied van nationale veiligheid, valt namelijk te concluderen Huawei al jaren wel erg uitgebreid hieraan meewerkt.

Meerdere bronnen laten zien dat Huawei een centrale rol speelt in het ondersteunen van de surveillancetechnologie die alle online en offline-bewegingen van de Oeigoeren volgt en daarmee hun vergaande onderdrukking mogelijk maakt. Op basis van openbare bronnen valt na te gaan dat Huawei nauw samenwerkt met de lokale veiligheidsdiensten. Naast de publicatie van samenwerkingsovereenkomsten, het opzetten van een intelligent veiligheids-innovatielab en het bouwen van meerdere videosurveillance-systemen speelt Huawei ook een rol in ondersteuning van data-analyse. Intussen wordt Xinjiang door (onderzoeks)journalisten omschreven als een centrale test case voor een steeds verder uitbreidende surveillancestaat met onmiskenbare internationale ambities.

Het is na kort onderzoek moeilijk te twijfelen aan het gegeven dat de Chinese tak van Huawei actief bijdraagt aan de surveillance en daarmee aan de genocidale onderdrukking van de Oeigoeren in Xinjiang. De rol die Huawei hierin speelt doet denken aan een moderne variant van IG Farben, de Duitse industriële reus die in de Tweede Wereldoorlog in symbiose werkte met de onderdrukkingspolitiek van de nazi’s voor economisch gewin.

Verantwoordelijkheid en rol van universiteiten

Gegeven het vervlochten karakter van Huawei en de onderdrukking van Oeigoeren etaleert de verwijzing van de betrokken onderzoekers naar afspraken over publicatievrijheid en dataveiligheid een wel erg beperkt besef van wetenschappelijke en maatschappelijke verantwoordelijkheid. Het verhoudt zich bovendien lastig tot nieuwe Europese ontwikkelingen op het gebied van ethische AI.

Het is goed te begrijpen dat de onderzoekers door teruglopende fondsen op zoek gaan naar nieuwe samenwerkingen. Met genoeg aandacht voor democratische, ethische en maatschappelijke aspecten kan samenwerking met het bedrijfsleven ook juist bijdragen aan interessant academisch onderzoek en vruchtbare toepassingen. Het is dan ook prijzenswaardig dat hoogleraar Claes de Vreese als lid van de UvA Research Priority Area Human(e) AI tegelijkertijd pleit voor het meer betrekken van publieke waarden bij de ontwikkeling van AI.

In hoeverre werken VU en UvA mee aan groeiende opties voor technologische onderdrukking?

De vraag is in hoeverre de VU en de UvA de samenwerking met een partij als Huawei moeten omarmen. In hoeverre legitimeren ze door de samenwerking met Huawei de onderdrukking van Oeigoeren? In hoeverre werken ze door de mogelijkheid van dual use van de ontwikkelde algoritmen en inzichten indirect mee aan groeiende opties voor technologische onderdrukking, zowel elders als dichterbij? In hoeverre past dit bij het inclusieve beeld dat de universiteiten zo graag van zichzelf neer willen zetten?

Het zou goed zijn als de VU en de betrokkenen de samenwerking met Huawei zo snel mogelijk en publiekelijk vanuit bovenstaand perspectief onder de loep nemen. Niet in de laatste plaats om met de universitaire gemeenschap en andere geïnteresseerde burgers lessen te trekken voor de toekomst van samenwerkingen binnen en financiering van AI-onderzoek aan Nederlandse universiteiten.

Publieke reflectie op deze vraagstukken en een, desnoods ontsporende, maatschappelijke discussie hierover zijn wat mij betreft noodzakelijker dan ooit.

De auteur is promovendus in de politicologie aan de Universiteit van Amsterdam.
Met dank aan Esmé Bosma voor de feedback op een eerdere versie van dit artikel en aan Marieke Kolkman voor de vragen aan Frank van Harmelen.