BOEK
Max Welling Over leven met kunstmatige intelligentie. Cornelissen Communicatie, Utrecht. Eerste druk, oktober 2018.
Cultuuroptimisme wisselt het -pessimisme af. Aan de ene kant enthousiasme over de mogelijkheden van kunstmatige intelligentie, aan de andere kant grote woorden over de risico’s. Voor mijn gevoel weegt het pessimisme van de auteur uiteindelijk zwaarder. In deze boekbespreking tien 'wist-u-dat-jes'. Tien inzichten die voor mij nieuw waren. Zijn ze dat ook voor u? De technische uitleg, bijvoorbeeld over verschillende soorten algoritmen, laat ik hier achterwege. De hoofdboodschap van de auteur? De keuzes die we als maatschappij nu maken zullen de wereld bepalen waarin onze kinderen straks leven. Daarom moet het onderwijs een sleutelrol krijgen.
Over de auteur
Max Welling is hoogleraar machine learning aan de Universiteit van Amsterdam en vice president Technologies bij het Amerikaanse technologieconcern Qualcomm. Hij runt drie onderzoekslaboratoria: Quva (Qualcomm-UvA), Delta (Bosch-UvA) en Amlab (UvA). Daarnaast werkt hij voor het Canadian Institute for Advanced Research. Welling was medeoprichter van het bedrijf Scyfer, dat in 2016 werd overgenomen door Qualcomm. In 2018 richtte hij samen met vijf andere hoogleraren aan de UvA en de VU het Innovation Center for AI (ICAI) op. Het ICAI richt zich op de interactie tussen universiteit, bedrijfsleven en samenleving. (Bron en foto: achterzijde van het boek)
Eerste wist-u-dat-je: de mens legt het af tegen het algoritme
Welling is enthousiast en optimistisch over de mogelijkheden van kunstmatige intelligentie. Hij schetst talloze voorbeelden van toepassingen. Zijn optimisme blijkt ook als hij zijn gedachten laat gaan over de toekomst van onze arbeid, de Future of work. Welling acht het bijvoorbeeld ‘zeer onwaarschijnlijk’ dat de radioloog zijn baan verliest. So far so good.
Dat optimisme gaat hand in hand met zijn verwachting dat computers ooit slimmer zullen zijn dan mensen. Op pagina 54 werpt hij de vraag op: hoe lang geldt nog de complementariteit van de mens en het algoritme? Vrij vertaald: hoe lang is er nog een zekere gelijkwaardigheid tussen die twee? Zijn antwoord laat aan duidelijkheid niets te wensen over: mensen gaan het afleggen tegen de slimheid van de algoritmen in de gezondheidszorg, bepaalde leeralgoritmen worden superieur in de planning van mobiliteitsvraagstukken en in de boardroom zal een robot betere adviezen geven dan de leden van die board zelf. Sic!
Wat daarbij opvalt is dat de auteur grote woorden niet schuwt. “Onze rechtsstaat staat op het spel”, “De deur staat wagenwijd open voor manipulatie met data op een schaal die we nog nooit eerder hebben meegemaakt”, “Het is één minuut vóór twaalf” waar het gaat om de bescherming van onze privacy en “We worden slaaf van de recommenders” (dat zijn algoritmen die aanbevelingen doen). Dat zijn toch allemaal geen malse beweringen. In elk geval beweringen die een gevoel van urgentie oproepen en de noodzaak van handelen onderstrepen. Waar pleit Welling dan voor?
Tweede wist-u-dat-je: keuzevrijheid met data is mogelijk
Zijn pleidooi is drieledig. Voor privacywetgeving gekoppeld aan een nieuwe data-infrastructuur. Voor kritiek en diversiteit. En voor een sleutelrol voor onderwijs en kennis.
De auteur noemt een aantal ontwikkelingen op het gebied van de privacy die ons gerust zouden moeten stellen. Zoals het feit dat je aan een algoritme kunt sleutelen. Mocht dat algoritme vooroordelen bevatten, dan kun je die verwijderen. Bij menselijke vooroordelen kan dat niet. Ook de wettelijke bescherming gaat volgens Welling de goede kant op. Zo draagt de Algemene Verordening Gegevensbescherming ons op om persoonsgebonden beslissingen die op een algoritme zijn gebaseerd, uit te leggen. Desalniettemin slaat de auteur alarm! Welling is een verklaard tegenstander van het overboord gooien van onze privacywetgeving. Data immers kan in verkeerde handen vallen. En de geschiedenis leert dat dit tot rampen leidt. In dat licht pleit hij voor een infrastructuur waarbij de data altijd in het bezit is van de persoon die deze data genereert. Zo ontstaat keuzevrijheid: de persoon kan zelf beslissen of hij zijn data wil delen met een derde partij of niet. Met Google bijvoorbeeld.
Kritiek en diversiteit zijn nodig om in opstand te kunnen blijven komen. Dat klinkt vanzelfsprekend maar is dat volgens Welling niet. Hij wijst op de praktijk van de grote tech-giganten die verzekeringen op de markt willen brengen. Om je premie laag te houden moet je gedrag vertonen dat die giganten goed gezind is. Dat betekent: moet je je onderwerpen aan een data-nederigheid. Je moet je data op allerlei manieren afstaan. Mensen uit de lagere inkomensgroepen hebben hier geen keuze. Zij kunnen zich immers geen hoge premie veroorloven. Géén verweer is géén keuze is géén kritiek. Waak voor een situatie waarin we worden geleefd door onze verzekering, waarschuwt Welling. Hiertegen bestaat maar één medicijn: goed onderwijs! Dat is nodig om onze kinderen het vermogen te laten ontwikkelen om kritiek te leveren.
Derde wist-u-dat-je: een algoritme kan beslissen over leven en dood
Op pagina 101 is Welling voorzichtig. Héél voorzichtig. Hij stelt de vraag: vinden wij het wenselijk dat algoritmen in autonome wapens beslissen over leven en dood? Hij voert twee tegenargumenten op voor de reflex dat alléén mensen hierover mogen beslissen. Allereerst de overweging dat niet alléén algoritmen maar ook mensen fouten kunnen maken. En ten tweede de gedachte dat door AI gestuurde software ten minste nog consistent, zonder vooroordelen en verifieerbaar is. Dat zijn kwaliteiten waar de mens niet altijd over beschikt. Vanuit die tegenargumenten stelt Welling dat het antwoord op zijn vraag genuanceerd ligt. Redenerend vanuit het hogere doel om wereldwijd het aantal verkeersslachtoffers te verlagen lijkt hij impliciet te kiezen voor een beslissing door het algoritme. "Dat is in ieder geval eerlijk".
Vierde wist-u-dat-je: leren van data is de kern van de revolutie
Toch even een klein stukje theorie. Welling doceert een basisonderscheid in algoritmen. Een klassiek algoritme bestaat uit regels die achter elkaar worden uitgevoerd. Die regels worden geschreven door mensen. Een neuraal-netwerkalgoritme daarentegen bestaat uit signalen tussen neuronen om patronen in data te herkennen. Hier komt geen mens aan te pas. Dit algoritme past zichzelf voortdurend aan door te leren van de data die wordt aangeboden. "De mogelijkheid om software automatisch te verbeteren door van data te leren is misschien wel de kern van de revolutie (….) in de AI".
Vijfde wist-u-dat-je: door spraakherkenning verdwijnt het toetsenbord
De ontwikkelingen in het vakgebied van de Natural Language Processing (NLP) zorgen voor een revolutie in spraakherkenning. Wat doet NLP? NLP zoekt de werkelijke betekenis van een zin: wat betekenen deze serie woorden, wat is de intentie achter deze vraag?
"Het resultaat is dat je smartphone nu begrijpt wat je zegt. Ik denk inderdaad dat het toetsenbord ook naar het museum gaat (…) Het lijkt duidelijk dat we met onze computers gaan praten, en niet meer naar een schermpje turen en op een toetsenbord zinnetjes intypen. Die technologie is bijna klaar."
Dit is een inzicht dat de Italiaanse schrijver Alessandro Baricco bijvoorbeeld over het hoofd ziet. In zijn overigens briljante boek The Game beschouwt hij de combinatie van de mens die via een toetsenbord met een scherm is verbonden als het 'erfelijk materiaal van de digitale revolutie'. Echter, als we Welling mogen geloven heeft de trits mens - toetsenbord - scherm zijn langste tijd gehad. Zie ook: https://boekbesprekingenpaulstrijp.blogspot.com/2019/10/the-game-van-allessandro-baricco.html
Zesde wist-u-dat-je: talenonderwijs staat onder druk door automatische vertaling
Lezing van dit boek maakt pijnlijk duidelijk hoe het onderwijs in ons land achter de feiten aanloopt. Welling ergert zich daar groen en geel aan en steekt die ergernis niet onder stoelen of banken. Zijn voornaamste bron van ergernis: het denken in schoolniveaus. Laat dat los, zo bepleit hij, laat elk kind in zijn of haar eigen tempo leren. De technologie maakt dat nu al mogelijk.
De betekenis van AI voor het onderwijs is overigens nog veel verstrekkender. De auteur stelt bijvoorbeeld dat het talenonderwijs eigenlijk overbodig is door de mogelijkheden van automatische vertaling. Op een andere plaats in zijn boek illustreert hij dit aan de hand van een door Microsoft ontwikkeld systeem. Dat maakt niet alleen spraakherkenning, maar ook de vertaling van een zin in een andere taal en de omzetting van die zin in geluid mogelijk.
Deze ontwikkelingen roepen de vraag op: wat moeten we dan nog met lessen Duits, Frans, Spaans en ga zo maar door in het curriculum? Immers, in die landen kun je straks een gesprek voeren dat meteen wordt vertaald. Vanzelfsprekend heeft taalonderwijs ook een zeer belangrijke cultuurhistorische betekenis. Maar als je de inzichten van Welling even goed tot je door laat dringen dan verbaas je je toch over het feit dat onderwijsorganisaties deze ontwikkelingen niet of nauwelijks agenderen. Je leest of hoort er in het publieke debat in elk geval niets over.
Zevende wist-u-dat-je: kunstmatige intelligentie kan ook niet alles
Welling is realistisch: kunstmatige intelligentie heeft ook zijn beperkingen. Géén halleluja-verhaal dus. De belangrijkste beperking? Kunstmatige intelligentie begrijpt nog niet genoeg van de wereld om in geheel nieuwe situaties de juiste beslissingen te nemen. De mens daarentegen beschikt over een eindeloze hoeveelheid achtergrondkennis. Over de wetten van de natuur, over de psychologie, over causaliteit. Deze kennis helpt hem om na het zien van één nieuw object een volgend exemplaar van dit object feilloos te herkennen. AI-systemen zijn dus nog niet in staat om de geleerde lessen van één situatie te generaliseren naar een nieuwe context.
Achtste wist-u-dat-je: energie stelt grenzen aan AI-toepassingen
Bij alle euforie over de mogelijkheden van AI zijn er ook beperkingen. Platte grenzen dus. Volgens Welling zitten deze in de kosten van het energieverbruik. Die zijn vaak hoger dan de opbrengsten. Met andere woorden: aan elke AI-toepassing zou ook doodgewoon een kosten-baten-analyse ten grondslag moeten liggen. "Er is dus een economisch plafond aan hoe ingewikkeld AI kan worden voor bepaalde toepassingen", stelt Welling nuchter vast. In de toekomst gaat het dan ook niet zozeer om het genereren van zoveel mogelijk intelligentie, maar om 'intelligentie per kilowattuur'. AI komt daarmee dus in een perspectief van duurzaamheid te staan.
Negende wist-u-dat-je: DNA op uw creditcard
Soms schrik je op van een inzicht van Welling. Bijvoorbeeld als hij de toepassingsmogelijkheden voor de gezondheidszorg bespreekt en heel droogjes opmerkt: "Het zal niet lang meer duren voordat iemand zijn volledige DNA kan laten 'meten' voor een paar honderd euro. Je draagt dan misschien je DNA met je mee op een creditcard." Het doel van dat alles? Bepalen welke afwijkingen in uw DNA voorspellend zijn voor de ontwikkeling van bepaalde ziektes.
Daarvoor is het dan wel nodig dat u niet de enige bent met zo'n vreemde creditcard. Want dat maakt Welling voortdurend duidelijk: AI werkt alléén bij grote hoeveelheden data. Met andere woorden: we zouden met zijn allen aan de DNA-creditcard moeten gaan. Mutatis mutandis gelden daarbij de privacyoverwegingen van Welling zoals hiervoor uiteengezet. Ofwel: de DNA-data op uw creditcard is van u!
Tiende wist-u-dat-je: blockchain maakt een einde aan monopolies
Hij maakt de opmerkingen bijna terloops. Op pagina 59.
"Uber, Airbnb en Booking hebben de taxi- en hotelbranche op zijn kop gezet. Het einde van hun monopolies lijkt in zicht nu een nieuwe technologie in opkomst is: de blockchain. Blockchain is een manier om gegevens, zoals contracten en waardetransacties, veilig op te slaan in een netwerk van computers. Het blijkt vrijwel onmogelijk om deze gegevens te manipuleren, want het netwerk bevat vele kopieën van de data en het corrigeert zichzelf".
Een einde aan het monopolie van de grote tech-giganten? Dat was toch echt compleet nieuw voor mij. Dat heeft te maken met mijn verwachting dat we eerst aan de vooravond staan van een grootschalige doorbraak van de platformbedrijven. Die verwachting ontleen ik voornamelijk aan de publicatie 'Make Disruption Work. A CEO handbook for digital transformation' van Alexandra Jankovich en Tom Voskes (2018). De essentie van dit boek is dat niet alleen de reis- en de hotelbranche maar àlle sectoren een digitale disruptie zullen beleven. Dus óók de overheid, de landbouw, het onderwijs, de energiesector, de voedingsmiddelenindustrie, de gezondheidszorg, het bankwezen en ga zo maar door. Welling leert mij dat -àls deze disruptie inderdaad op deze manier doorzet- een en ander niet noodzakelijkerwijs gepaard hoeft te gaan met verdergaande monopolies.
Hoe werkt dat dan wel? Een paar citaten.
"Blockchaintechnologie maakt het mogelijk om betalingen te doen zonder tussenkomst van een derde partij, zoals een bank. (….) Blockchain maakt het in principe mogelijk dat de bank, Uber of Airbnb niet meer nodig zijn. Taxichauffeurs en huiseigenaren kunnen zelf een blockchainservice opzetten. (…) Iedereen kan onderling handelen zonder tussenpartijen die een groot deel van de winst opstrijken".
"Het wordt nog spannender als we blockchain en AI gaan combineren. Contracten kunnen in een split second worden uitonderhandeld tussen verschillende AI-systemen. (…) AI-algoritmen onderhandelen continu en autonoom met elkaar, om zo de doelen van hun baas te realiseren. Een soort megaveiling gebaseerd op de blockchain, die alle transacties registreert."AI-algoritmen die autonoom onderhandelen? Ik had er nog nooit van gehoord.
Toegift: een raadseltje
In plaats van een elfde wist-u-dat-je. Bij de uitleg van de exponentiële groei (een groei waarbij iets elke X jaar verdubbelt) stelt Welling ons de vraag: hoe vaak moeten we een papieren krant dubbelvouwen zodat hij zo dik is dat hij tussen de maan en de aarde kan worden geklemd? Het antwoord verraad ik hier niet. Dat doe ik pas als u door een reactie op deze boekbeschrijving een poging heeft gewaagd.
Tot slot
Dit is een razend knap boek. Het knappe schuilt in de toegankelijkheid. Door een variatie aan stijlen en invalshoeken slaagt Welling erin om een ingewikkeld domein in gewone-mensen-taal uit te leggen. Waarbij hij op een genuanceerde manier zijn eigen mening of verwachting niet onder stoelen of banken steekt.
Dit boek schreeuwt om een vervolg. Wat mij betreft zou dat over twee zaken moeten gaan. Allereerst zou ik een verdieping wenselijk vinden. Welling scheert nu oppervlakkig over verschillende maatschappelijke domeinen heen. Benoemt kansen en toepassingsmogelijkheden. En schroomt niet om sectoren die zitten te slapen een draai om de oren te geven. Zoals de telecom. "…. een slapende reus die nog wakker moet worden". Eigenlijk zou over elke maatschappelijke sector een verdiepend cahier moeten verschijnen. Ik zou ze allemaal aanschaffen.Welling laat de lezer achter met een prettige spanning, een ongerijmdheid. Hij lost die spanning niet op. Aan de ene kant stelt hij dat menselijke keuzen nu bepalend zijn voor onze toekomst. Aan de andere kant is zijn stellige verwachting dat AI de mens zal overtreffen. Hoe verhouden die twee zich tot elkaar? Moeten de inspanningen van de mens vooral gericht zijn op het waarborgen van de privacy? Of moet de mens de ontwikkeling van de AI -als dat al mogelijk is- afremmen om die technologische suprematie te vertragen? Ik zou er graag heel veel over willen lezen.
Paul Strijp, 27 maart 2020
