AI is een systeemtechnologie met enorme impact

• ✓ Benut de toegenomen rekenkracht van computers
• ✓ Investeer in hybride modellen: AI ondersteunt de mens
• ✓ Verdiep je in abonnementsgebonden diensten
• ✓ Houd altijd oog voor de schaduwkanten van AI
• Naar de kennisbank

De enorme potentie van datagedreven innovatie

Frans Feldberg is een bevlogen hoogleraar die oog heeft voor de ongekende mogelijkheden die Artificial Intelligence (AI) en datagedreven innovatie te bieden hebben. Niet alleen voor de medische sector, de energievoorziening en de retail, maar ook voor tal van andere sectoren. Vier jaar geleden hield hij een wervelende TEDx presentatie met als titel “Prediction machines: How can AI help us“. Sindsdien zijn de mogelijke toepassingen van AI dankzij de exponentieel toegenomen rekenkracht, dataportabiliteit en interconnectiviteit alleen nog maar toegenomen. DNA-onderzoekers en radiologen, ChatGPT, Netflix enzovoorts maken hier allemaal dankbaar gebruik van. Omdat Feldberg onlangs is toegetreden tot de jury van de Dutch BI & Data Science Award, vroegen we hem om een update. Hoe gaat AI onze wereldproblemen oplossen?

Wet van Moore

Feldberg: ‘De wet van de onlangs overleden Intel-oprichter Gordon Moore (iedere twee jaar een verdubbeling van het aantal transistors dat op een computerchip past, red.) geldt nog steeds. En artificial intelligence is volgens de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) niet zomaar een technologie. Het is een systeemtechnologie. Zij valt het beste te vergelijken met de opkomst van de stoommachine, elektriciteit, de verbrandingsmotor en de computer. Dit zijn systeemtechnologieën die leiden tot onverwachte toepassingen. Zo had Edison nooit kunnen voorspellen dat elektriciteit uiteindelijk ook gebruikt zou gaan worden voor het tandenpoetsen. Een kenmerk van een systeemtechnologie is dat zij alom aanwezig is en dat zij steeds goedkoper wordt. AI zit in je telefoon, auto, wasmachine, het wegdek, lantaarnpalen, enzovoorts. Een systeemtechnologie biedt een platform, een vruchtbare voedingsbodem voor allerlei nieuwe innovaties.

Een kenmerk van een systeemtechnologie is dat zij alom aanwezig is en dat zij steeds goedkoper wordt.

Feldberg geeft een concreet voorbeeld: ‘Algoritmes verslaan volgens wetenschappelijk gevalideerde benchmarks nu al de mens als het gaat om het opsporen van verdacht weefsel dat met het menselijk oog nog niet zichtbaar is. Dat het algoritme de mens verslaat is op zich niet vreemd, want een röntgenfoto heeft wel 4.000 grijstinten die het menselijk oog nooit allemaal kan onderscheiden. Als het gaat om het herkennen van patronen in data dan verslaat de computer de mens: algoritmes herkennen in enkele seconden bepaalde patronen die de mens gemakkelijk over het hoofd ziet.’

Maar de ontwikkelingen in de medische sector gaan volgens Feldberg nog veel verder. Denk bijvoorbeeld aan ‘personalized medicine’, medicijnbehandelingen op maat, waarbij je bijna op celniveau tumorontwikkelingen continu kunt volgen. Deze behandelingen zijn alleen maar mogelijk dankzij AI en de toegenomen rekenkracht. Zo worden in de medische praktijk steeds meer data gebruikt om de besluitvorming steeds beter te ondersteunen.

Nog een voorbeeld. De IC vervult een cruciale functie in de hele ziekenhuislogistiek. Het ontslagmoment luister daarom nauw. Ontsla je iemand te vroeg van de intensive care, dan stijgt het risico op heropname of mortaliteit als gevolg van complicaties. Een onnodig te lang verblijf in het ziekenhuis kost geld en legt een beslag op je beddencapaciteit. Er zijn algoritmes die intensivisten ondersteunen in de beslissing wat het beste ontslagmoment is. Intensivist Paul Elbers van Amsterdam UMC doet hier onderzoek naar.

Hybride modellen

Toch wil dit volgens Feldberg niet zeggen dat ziekenhuizen voortaan blindvaren op het oordeel van het algoritme. Integendeel. Zelf gelooft hij in hybride modellen, waarbij de algoritmes de mens ondersteunen in de besluitvorming. Er vinden in ziekenhuizen dagelijks nog steeds patiëntbesprekingen en overdrachtsvergaderingen plaats. De artsen nemen bij overplaatsing of ontslag eerst zelf de beslissing. Vervolgens wordt gekeken wat het algoritme zegt. Lopen de adviezen uiteen, dan wordt opnieuw vergaderd. Wel wordt het algoritme gevoed met alle beschikbare data, zoals de bloeddruk- en hartslagmetingen, de verslagen van de verpleegkundigen, artsen enzovoorts.

Dankzij reinforcement learning wordt het algoritme daardoor steeds slimmer. Op de afdeling Radiologie schrijft de radioloog het verslag. Misschien dat je in de toekomst de verslagen kan laten produceren door ChatGPT, zo ver zijn we nu nog niet, maar er worden wel grote stappen gezet in de diagnostiek. De mens speelt een cruciale rol in de besluitvorming, ook het voeren van slechtnieuwsgesprekken wil je natuurlijk niet aan een computer overlaten. Dankzij de toegenomen rekenkracht werken mens en technologie binnen hybride modellen dus steeds intensiever samen.’ Ook tijdens het congres The Future of Medical Imaging and Radiotherapy, waar Feldberg een van de sprekers was, bleek dat datagedreven innovatie en AI een steeds grotere rol spelen bij het opsporen en behandelen van steeds meer ziektes.

Ondanks de mogelijkheden die Feldberg ziet heeft hij ook wel degelijk oog voor de schaduwkanten van AI en pleit hij voor responsible AI en een kritische reflectie op de invloed en rol van bigtechbedrijven. Het gemak waarmee mensen hun data zomaar weggeven aan bedrijven als Facebook en TikTok verbaast hem. If the product is for free, you are the product, zo waarschuwt hij. Passionned Academy biedt daarom een AI training aan om je bewust te maken van de mogelijkheden en risico’s van AI.

De grote voorspelmachines

Mede geïnspireerd door het boek ‘Prediction Machines’ van A. Agrawal ziet Feldberg een grote rol weggelegd voor voorspellende algoritmes. Voorspellen is het invullen van informatie die je niet hebt op basis van informatie die je hebt. Dat klinkt misschien cryptisch. Maar denk eens aan een puzzel leggen. Naarmate je vordert, wordt het aantal ontbrekende stukjes van de puzzel steeds kleiner, waardoor het leggen steeds gemakkelijker wordt. In principe werkt ChatGPT ook op deze manier. Het is één grote voorspelmachine die op zoek gaat naar het juiste antwoord. Hij maakt hierbij wel een belangrijke kanttekening. ‘Ik zie een hybride model ontstaan waarbij het algoritme de besluitvorming ondersteunt en de mens uiteindelijk beslist.’

Dat we inmiddels algoritmeregisters hebben die door gemeenten, provincies en andere overheidsinstellingen verplicht moeten worden bijgehouden, ziet Feldberg dan ook als een logische en goede ontwikkeling. Maar ook vanuit Brussel komt de nodige wetgeving op ons af, denk aan de Digital Services Act, de Digital Market Act en de Data Act. Deze wet- en regelgeving in combinatie met ethische richtlijnen helpen om datagedreven innovatie op een verantwoorde manier vorm te geven. Het kan helpen als algoritmes een soort keurmerk krijgen. Hier zijn nog wel grote uitdagingen. ‘Sommige algoritmes zijn black boxes en andere algoritmes worden slechts door een beperkt aantal personen op de hele wereld echt begrepen.’ Dat wil volgens hem niet zeggen dat je Explainable AI en Responsible AI maar met een korreltje zout moet nemen. ‘Als samenleving moeten we goed nadenken wat we met AI willen en wat hierin de leidende principes moeten zijn. In het eerdergenoemde rapport van de WRR worden hiervoor ook duidelijk aanbevelingen gegeven.’

Wasmachine met WiFi-aansluiting

Ook in de energiesector ziet Feldberg allerlei vormen van datagedreven innovatie ontstaan. Hij stipt ze kort aan. Wat te denken van micro grids, een miniversie van een klassiek stroomnet en smart grids waar slimme innovaties en data een hoofdrol spelen. Een wasmachine met WiFi-aansluiting is allang geen noviteit meer. Mensen richten zelf energiecoöperaties op. Op macroniveau wordt de vraag en het aanbod van energie met behulp van AI gematcht om congestie in het energienet te voorkomen. Algoritmes geven aan wanneer preventief onderhoud gewenst is. En ga zo maar door.

De opkomst van abonnementsgebonden diensten

De kracht van datagedreven innovatie is volgens Feldberg goed zichtbaar in de retailsector. Naar analogie van cloud computing zie je in deze sector allerlei nieuwe abonnementsgebonden diensten ontstaan, waarbij al dan niet via het Internet of Things (IoT) enorm veel waardevolle klant- en gebruiksdata wordt verzameld en verwerkt. Zo kun je bij Coolblue tegenwoordig witgoed, zoals wasmachines, koelkasten enzovoorts afnemen in een full servicemodel. Je betaalt dan een vast bedrag per maand voor gebruik, onderhoud, wasmiddelen, et cetera. Ook gevestigde partijen als Bosch en Siemens komen met nieuwe datagedreven producten en diensten. BlueMovement, bijvoorbeeld, speelt met nieuwe huur- en leaseabonnementen in op de trend naar duurzaamheid, consumentengemak, refurbishing en recyclebaarheid van apparaten.

Mede door het IoT ontstaat een compleet nieuwe dynamiek. In de automobielindustrie worden opties ook steeds vaker als abonnement verkocht. Zo laat BMW je 19 euro per maand betalen voor stoelverwarming. Hoewel er ook kritische geluiden van consumentenorganisaties zijn, zouden voor de automobielindustrie datagedreven producten en diensten volgens de hoogleraar nog wel eens de solide basis van het businessmodel kunnen worden. Het moederbedrijf achter Peugeot, Citroën en Opel denkt dat het vanaf 2030 maar liefst 20 miljard euro per jaar gaat opleveren. Overigens gaat dit niet alleen over abonnementen op hardware-opties zoals vermogen, maar ook op software-opties zoals navigatiediensten en parkeerassistentie.

ChatGPT komt niet uit de lucht vallen

Het effect van Moore’s law is volgens Feldberg goed zichtbaar als het om ChatGPT gaat. We beschikken nu over de rekenkracht om gigantische hoeveelheden data te analyseren, patronen in te ontdekken en kennis af te leiden. Open AI is al in 2015 opgericht en de eerste versie van ChatGPT dateert uit 2018. Ook ChatGPT is in essentie één hele grote prediction machine die aan de hand van de vraag zo goed mogelijk probeert te voorspellen welke teksten het beste bij elkaar passen en op basis daarvan een antwoord formuleert. Dit vergt een enorme rekenkracht die wel gepaard gaat met een hoog energieverbruik en extra CO2 uitstoot. De eerste kritische commentaren klinken dan ook al door.

De opmars van ChatGPT is ondanks een verbod door sommige landen, niet te stuiten. Het businessmodel van Google staat inmiddels onder druk. ‘Want als je kunt kiezen, wat heb je dan liever? Een volledig uitgeschreven to-the-point antwoord op je vraag, of een lijstje met tien zoekresultaten waarvan de eerste vijf gesponsord zijn door Google en/of andere commerciële partijen?’ Hoewel Feldberg de wereldwijde AI trends en datagedreven innovatie op de voet volgt, heeft hij juist ook oog voor regionale ontwikkelingen. Zo is hij vanuit de Vrije Universiteit Amsterdam als medeoprichter betrokken bij het regionale initiatief Data Science Alkmaar. Dat is volgens hem superbelangrijk om de kansen en mogelijkheden die data en kunstmatige intelligentie bieden ook te benutten ten behoeve van regionale groei en ontwikkeling in Noord-Holland Noord.

Datagedreven innovatie wil volgens Feldberg ook niet zeggen dat je alles opnieuw moet zien uit te vinden. Waardevolle en bewezen concepten als ideation en design thinking zijn nog steeds toepasbaar. Toen de winnaar van de Dutch BI & Data Science Award 2022 Pon de startup Lensor introduceerde voor automatische schadedetectie, ontstond tijdens een brainstorm het idee om de kunstmatige intelligentie niet alleen op de auto’s van Pon los te laten, maar ook op bedrijfswagens en huurauto’s van externe partijen. Dat klinkt logisch, maar je moet er maar op komen…

Computers kunnen niet denken

Datagedreven innovatie is voor organisaties een noodzakelijke voorwaarde om relevant te blijven. Toch plaatst Feldberg nadrukkelijk ook enkele kanttekeningen. ‘Computers kunnen niet denken. Ze hebben bijvoorbeeld geen verbeeldingskracht, inlevingsvermogen of empathie. Als we denken dat computers kunnen denken, en we ze ook in gaan zetten om voor ons te denken, omdat we denken dat ze kunnen denken, dan gaat het mis!’ Computers, algoritmes, chatbots kunnen bepaalde cognitieve processen, zoals rekenen, herkennen van patronen, veel beter dan dat mensen dat kunnen. Maar dat is toch heel iets anders dan denken. Het is dus heel belangrijk dat we hier goed over nadenken en juridische en ethische kaders ontwikkelen en toepassen om verantwoord gebruik van AI te borgen’, zo stelt Feldberg tot slot.