Op 6 december jl. hield Michiel Steltman namens DINL als gastspreker een toespraak over de kansen en uitdagingen van AI voor de Interparlementaire Assemblee Benelux in Luxemburg. Hieronder kunt u de samenvatting en integrale tekst van zijn speech lezen.
Introductie
Dank voor de uitnodiging om te spreken bij dit themadebat. Het gaat om een belangrijk onderwerp: Benelux als digitale voorloper in de EU en de kansen die AI ons geeft.
AI bestaat al sinds de jaren 80. Maar komt nu naar voren omdat het laagdrempelig is gemaakt, door de Cloud. Microsoft, Amazon en Google mken dat nu makkelijk. Je kunt in hun clouds in een handomdraai een grote eigen dataset uploaden bijvoorbeeld met tekst, of foto’s, om die met een voorgeprogrammeerd stukje AI te analyseren.
Nieuwe toepassingen zien we in huis, zoals de slimme assistent, die informatie en gemak brengt ook voor mensen die niet handig zijn met de computer. Maar ook bij grote maatschappelijke problemen. Bijvoorbeeld bij medische diagnoses. En voor het nog niet–digitale bedrijfsleven bij kwaliteitscontrole, optimalisatie, routes voor transport. En daar komt ook de zelfrijdende auto in beeld. AI biedt ook kansen voor de overheid. AI vindt patronen in onze belastingaangifte. Het kan gaan om onbedoelde fouten. Maar ook kan het gaan om ontwijking, of zelfs fraude.
Daar zien we dat er ook een andere kant van AI in beeld komt. AI kan ons helpen, maar kan bij ondoordacht gebruik ons ook benadelen, zelfs ons zomaar als verdachte aanmerken. Ook daar moeten we oplossingen voor vinden.
Wat moet de Benelux doen om voorop te lopen?
Het World Economic Forum rekent voor dat de mate waarin landen of bedrijven AI omarmen een duidelijke indicator is voor de mate van hun economisch succes. Het is voor ons als Benelux landen extreem belangrijk om nu mee te gaan in deze ontwikkelingen. We hebben de bevoorrechte positie als een EU zone waarin geëxperimenteerd mag worden, en laten we die gebruiken en niet te vroeg aan de regulerende handrem trekken. Innovatie komt nu eenmaal met vallen opstaan en zolang we leren van die fouten is er weinig aan de hand.
De Benelux heeft een goede startpositie. Een kwalitatief hoogwaardig onderwijssysteem, vertrouwdheid met Internet en IT, snel internet, digitaal MKB. Onze overheden moeten zich nu richten op de twee belangrijkste randvoorwaarden : kennis en digitale infrastructuur. Als die voorwaarden in orde zijn dan kan de markt prima zelf zijn werk doen, want dat bepaalt uiteindelijk het succes van AI.
Kennis en Onderwijs
Het zelf in huis hebben van voldoende kennis is belangrijk om drie redenen.
Ten eerste moeten we niet afhankelijk zijn van universiteiten in China en de VS. De KU Leuven en de UVA in Amsterdam zijn voorbeelden van de absolute top, die moeten extra middelen krijgen
Ook om een andere reden is dat verstandig. Veel IT bedrijven ontstaan vanuit startup campussen rond universiteiten.
Daarnaast moet digitale kennis breed beschikbaar zijn. Wij zouden in de Benelux de digitale wereldburger van de toekomst op moeten leiden. Geef digitalisering een prominente plaats in het onderwijs, en het helpt als docenten hun e-skills kunnen verbeteren.
Laten we ook niet uit het oog verliezen dat de behoefte aan voldoende kennis nu actueel is. Alleen inzetten op het onderwijs heeft pas resultaten in de toekomst en dan zijn we te laat. Er is ook inzet nodig op duale trajecten, privaat-publieke initiatieven, bijscholing, omscholing, soepel toelatingsbeleid voor talent uit andere delen van de wereld.
En dan gaat het ook om bijscholing van u als bestuurders. De materie is complex en ook het digitaal bedrijfsleven moet daarom kennis aan tafel brengen. Het is een van de redenen dat wij als digitale sector die spreekbuisfunctie hebben ingericht.
Infrastructuur
De tweede basisvoorwaarde is digitale infrastructuur. AI kan niet gaan vliegen zonder de cloud en internet verbindingen. Want al die data van apparaten in de woonkamer, ons bureau, in onze auto of in onze broekzak gaat van en naar opslag in de cloud, waar de AI zijn werk doet. AI, Internet en cloud zijn onlosmakelijk met elkaar verbonden.
Zonder clouds van onze eigen digitale spelers komen economische voordelen alleen bij techreuzen, en in andere landen of andere delen van de wereld terecht
Toch gaat beleid voor digitale infrastructuur in de praktijk zelden verder dan klassieke telecom zoals 5G. Het lijkt soms wel alsof die netwerken op zichzelf staan en nergens mee verbonden zijn. Het is nog erger: datacentra worden soms gezien als hinderlijke grootverbruikers van stroom, zoals laatst de gemeente Amsterdam besloot. Andere onderdelen blijven buiten beeld van economisch beleid. En dat is riskant.
Mijn oproep is dan ook om beleid voor digitale infrastructuur te verbreden. Bij onze ministeries van economische zaken moet het gaan over de randvoorwaarden voor het aantrekken en uitbreiden van datacenters, het inzetten op groei van internationale en maritieme verbindingen, behoud van goede marktwerking van het diepere internet, en het inzetten op een Cloud First strategie. Allemaal essentieel voor AI
Amsterdam en luxemburg hebben clusters van Datacenters. Laten we daar optimala van profiteren. En een mooi voorbeeld is het Duits-Franse Gaia-X project. De Benelux landen moeten zich daarbij aansluiten.
Hoe gaan we om met de problemen?
Elke economische activiteit heeft externaliteiten, ongewenste neveneffecten. AI is daar geen uitzondering op. We kennen het kafkaëske schrikbeeld van computer says no, een computer die discrimineert of een onschuldige tot verdachte bestempelt. Of het profilen en beïnvloeden van mensen, het zijn allemaal zaken die ons terecht bezig houden.
Instinctief willen we dan te technologie als veroorzaker reguleren, met strenge toezichthouders. Maar die klassieke reguleringsinstrumenten zijn niet het juiste antwoord zijn. Ik zal u uitleggen waarom.
Het onvermijdelijke gevolg van reguleren van technologie is dat het drempels opwerpt. Dat heeft de neiging om de sterken sterker te maken en innovaties af te remmen.
Het leidende principe moet zijn: Tech is good. AI Technologie moet zonder drempels gebruikt kunnen worden voor iedereen. Bij ongewenste effecten moeten we ons daarom alleen richten op de specifieke risico’s in specifieke gevallen, een laag dieper dus dan de technologie.
Ik illustreer dat met twee voorbeelden.
Bij Amazon werd een AI systeem gebruikt voor sollicitanten, dat alleen mannen bleek te selecteren. Niet de bevooroordeelde technologie is hier het probleem, maar het ontbreken van checks en balances, zoals continue testen op ongewenste uitkomsten, en het klakkeloos aannemen van de besluiten van een systeem met ingebakken vooroordelen. Bij gezichtsherkenning is niet de camera of de AI het probleem, maar het feit dat daarmee zonder mogelijkheid van correctie of verweer iemand de toegang tot een winkel of stadion kan worden geweigerd.
Laten we, als proeftuin in de EU, in dit stadium alleen eisen stellen aan de inzet van AI in risicovolle situaties: waarin geautomatiseerde besluiten ons als burgers kunnen schaden. Ik noem verplichte certificering van het begeleidende en omringende proces. Met zaken als continue testen, continue verbeteringen, controle van besluiten, periodieke onafhankelijke controles op het geheel. De overheid kan toezien op die verplichting.
Regie
Het thema van regulering brengt me op het laatste onderwerp van mijn bijdrage: regie en samenwerking. Digitalisering stelt overheden voor forse bestuurlijke problemen. Digitalisering, AI, snijdt dwars door alle departementen en bestuurslagen heen. Hoe moet dat worden bestuurd? Met een coördinerende minister van digitale zaken? Of met een doorsnijdend top team? Een digitale commissaris? Hoe houdt het parlement de kennis voldoende op peil om de impact van AI en digitalisering in alle maatschappelijke dossiers te kunnen volgen? Ik heb geen pasklare antwoorden. Wat ik wel weet, is dat de bestuurlijke kwesties de digitale ontwikkelingen niet in de weg mogen staan. De invloed van digitalisering en AI op onze samenleving wordt alsmaar groter. Het onderwerp moet structureel op de politieke agenda staan en blijven staan. De nieuwe Europese Commissie geeft het goede voorbeeld met een grote naam, nieuwe vicevoorzitter Margrethe Vestager op de portefeuille digitale zaken.
Afsluitend
Internet en de cloud hebben heel veel ontwikkelingen in een stroomversnelling gebracht, ook AI. Als we dit goed aanpakken komen we als Europa, als Benelux, ijzersterk uit deze transitie. We staan op voldoende voorsprong om onze ambities waar te kunnen maken. Maar het is wel noodzakelijk om de juiste voorwaarden te scheppen. Door in te zetten op het onderwijs en kennis, digitale infrastructuur en Cloud. En door de regulering laagdrempelig te houden, en een juiste verdeling van taken en verantwoordlijkheden te vinden.
Zodra deze condities op orde zijn kan de Europese markt haar werk doen. Het is aan u om deze randvoorwaarden te scheppen.
Ik dank u voor uw aandacht
Benieuwd naar de gehele speech? Deze is toegankelijk via deze link.
