Kunstmatige intelligentie mag geen monster zijn
Van onze redacteur Karsten Lemmens
BrusselWat als de computer mag bepalen wie je aanwerft, wie je ontslaat, wie een lening of verzekering krijgt? Kunstmatige intelligentie (AI) speelt een almaar grotere rol in het leven van de burger, vaak zonder dat hij of zij dat beseft. Dat kan nare gevolgen hebben. In de herfst van 2018 voerde retailgigant Amazon in alle stilte een programma af waarbij kunstmatige intelligentie (AI) de beste kandidaten van een vacature uit de berg viste. Het probleem? De computer koos er alleen mannen uit. De datasets waarmee het systeem was getraind, herkenden de scheeftrekking tussen mannen en vrouwen waar Silicon Valley berucht voor is. Dus leerde het zichzelf dat mannelijke kandidaten te verkiezen zijn boven vrouwelijke. 'Veel datasets bevatten zo'n bias', zegt de Duitse Alexandra Geese, Europees Parlementslid voor de groene fractie. Ze diende daarom een resolutie in die de spelregels voor AI moet vastleggen. Die moeten datasets zonder vooroordelen verzekeren, transparantie voor consumenten, en controle op AI-systemen. Ook moet een mens altijd de eindbeslissing nemen, én moet elk individu een beslissing bij een mens kunnen aanvechten.
De resolutie werd bijna unaniem goedgekeurd in de commissie interne markt en consumentenbescherming. Volgende week wordt erover gestemd in de plenaire zitting. 'We mogen onze standaarden voor privacy en databescherming niet verlagen', zegt Geese. 'Dat onderscheidt ons van andere concurrenten zoals China.'
Automatisch C4
Geese verwijst naar de nieuwe kredietkaart die Apple in de VS samen met grootbank Goldman Sachs op de markt bracht. Ondernemer David Heinemeier Hansson klaagde eind vorig jaar aan dat hij een twintig keer hogere kredietlimiet kreeg dan zijn vrouw. Ook daar werd het algoritme verantwoordelijk gesteld voor die discriminatie. Afgelopen zomer liet Amazon in enkele Amerikaanse magazijnen werknemers ontslaan door volledig geautomatiseerde AI-systemen. Daarbij gaf de computer de minst productieve werknemers automatisch hun C4. Het zijn taferelen waar de Europarlementsleden van gruwen.
De timing van de resolutie is niet lukraak gekozen. Margrethe Vestager, nummer twee van de Europese Commissie, presenteert over twee weken de 'Europese aanpak rond AI' in het Europees Parlement. Voorzitter Ursula von der Leyen had bij haar aantreden beloofd binnen 100 dagen met een plan te komen om 'de menselijke en ethische implicaties van AI' te beheersen.
Met de resolutie willen de groenen, en bij uitbreiding de commissie Interne Markt, de zaken op scherp zetten. Verwacht wordt dat ze in de plenaire stemming een grote meerderheid haalt. 'Dat zou een sterk signaal zijn', zegt Petra De Sutter, Belgisch Europarlementslid bij de groenen en voorzitster van de commissie interne markt. 'Als we niets doen, worden we overspoeld door Amerikaanse en Chinese algoritmes van de Amazons en Alibaba's die hier binnenkomen.' De Sutter heeft er vertrouwen in dat Vestager zal luisteren. 'Ze wil Europa de leiding laten nemen in de wereld, en daar sta ik absoluut achter.'
Ook de Belgische Eurocommissaris voor Justitie, Didier Reynders, pleitte eerder voor een ethics by design-model voor AI. Daarbij worden ethische overwegingen al in de beginfase in de AI-systemen ingebouwd.
Wereldwijde standaard?
In het Europees Parlement maken ze zich sterk dat Europa zo de wereldwijde standaarden voor ethische en menselijke AI kan bepalen, net zoals dat gebeurde met de Europese privacyregels, de GDPR. Na de invoering daarvan maakten de Europese privacyregels over de hele wereld school. 'Destijds werd gevreesd dat de GDPR onze competitiviteit zou afbreken', zegt De Sutter. 'Maar iedereen nam onze standaarden over. Als wij ook met AI de standaard kunnen zetten, is de kans groot dat die ook wereldwijd gebruikt zal worden.'
