De impact van technologie is groter dan ooit tevoren. We leven in een tijdperk waarin big-tech de politiek beïnvloedt en omgekeerd, en waarin echt en nep nauwelijks meer te onderscheiden zijn. Extreem overtuigende ‘hypersuative technology’ wordt ontwikkeld om mensen te verleiden en te entertainen – die daarmee hun ratio in de pauzestand zetten. “De kernvraag is niet waar dit allemaal toe leidt, maar wat we ermee doen”, stelde futuroloog Menno van Doorn tijdens zijn presentatie op een recente kennissessie van CIO-nxt.
Van Doorn, directeur van Sogeti’s VerkenningsInstituut Nieuwe Technologie (VINT), richtte zich tijdens de ledenbijeenkomst in Breukelen rechtstreeks tot de aanwezige technologieleiders. Wanneer zij nu de juiste beslissingen nemen, zijn ze beter in staat om regie te voeren op toekomstige ontwikkelingen. Bijvoorbeeld rond ‘agentic AI‘, die taken (pro)actief gaat uitvoeren. Dat raakt volgens hem de CIO-agenda, die in de afgelopen 25 jaar toch al verschoof van het controleren van technologie naar het dealen met de toenemende soevereiniteit ervan.
“Gaan we varen op Autopilot, ja of of nee?” Menno van Doorn illustreerde de impact van die vraag vanuit het perspectief van diverse bekende en minder bekende individuen. Bijvoorbeeld van collega-futuroloog Yuval Harari. Die stelt in zijn bestseller Nexus dat voor het eerst in de geschiedenis technologie niet alleen z’n eigen verhalen schrijft, maar bovendien invloed en controle uitoefent over de discussies die we voeren. ‘Ja of nee?’ wordt dan een ethisch en misschien zelfs existentieel vraagstuk.
Digitale soevereiniteit
“Saskia Lensink, AI-expert bij TNO, werkt in samenwerking met SURF en NFI met GPT-NL aan een veilig en verantwoord alternatief voor de grote internationale spelers. Met alle bekende features, maar zonder daarvoor de eigen digitale soevereiniteit op te geven.” Iets waar volgens de spreker ook Amerika-deskundige Maarten van Rossum voor waarschuwt: “Heel leuk wat we er allemaal mee doen en kunnen, maar kan het ook zonder de Amerikanen?” Want de voordelen van AI zijn evident. Bijvoorbeeld in het onderwijs (John Dalton) en de ontwikkeling van regeneratieve medicijnen (Joost Fledderus, UMC Utrecht).
Naast alle zegeningen van AI – letterlijk zelfs, door het in realistische video’s tot leven wekken van bijbelverhalen – benadrukte de VINT-directeur nogmaals de risico’s. Zeker nu technologie hand-in-hand met de politiek echt naar de macht grijpt. “De enorme lobbykracht van de oliebranche zit nu bij de techbedrijven. Big-tech is bovendien in toenemende mate full-stack geïntegreerd en beheerst de keten van energieopwekking via cloudinfrastructuren en large language models tot politieke en economische macht. In staat om emoties te laten winnen van ratio en complottheorieën aannemelijker te maken dan feiten.”
Gebundelde tegenkracht
Daarnaast is er het probleem van de energieconsumptie, die mede vanwege AI exponentieel groeit en tegen grenzen aanloopt. “Wat gaat we daaraan doen? Wat is uiteindelijk de bedoeling?” De eerste stap is de uitdaging die AI met zich meebrengt als CIO’s en andere techleiders te onderkennen, het echt op de agenda te zetten, zo klonk het in Breukelen. “Het positieve omarmen, schaduwkanten belichten, feiten laten prevaleren. En zo nodig een gebundelde tegenkracht te vormen.” Van Doorn liet de zaal achter met een mix van inspiratie en urgentie. De kiem is gelegd, nu is het aan de leiders zelf.
Menno van Doorn is co-auteur van het boek ‘Echt Nep’, dat gaat over de invloed van technologie op onze perceptie van de werkelijkheid. Er is inmiddels een herziene versie uitgebracht. Te koop via https://www.managementboek.nl/boek/9789083434629/echt-nep-menno-van-doorn.