Mehdi Dastani (Universiteit Utrecht)
Mehdi Dastani over wilde en onvoorspelbare AI
Gepubliceerd op maandag 16 november 2026
Doorslaggevende trends in het ‘techjaar’ 2026 waren de worsteling met cybercrime, datagedreven besluitvorming, gestaag stijgende cloudadoptie en OT-integratie in de industrie. Maar met stip op een en topprioriteit in 2027 is het in bedwang houden van AI-agenten, stelt Mehdi Dastani van Universiteit Utrecht. “Ze kunnen wild en onvoorspelbaar zijn en werken sneller dan mensen kunnen volgen. We hebben ethische en juridische kaders nodig en AI-oplossingen om hun gedrag realtime te handhaven.”
De grootste cryptoroof ooit, op handelsplatform Binance, vond plaats op donderdag 29 oktober, de dag voor het interview met prof. dr. Mehdi Dastani van Universiteit Utrecht. Hackers wisten op het platform voor € 5,6 miljard aan crypto’s achterover te drukken. Bijna de helft kon worden bevroren (waardoor hackers de buit niet meer konden wegsluizen) maar toch… het is een hack van een andere orde. De € 75 tot 100 miljoen minder winst voor Albert Heijn door de hackaanval verbleekt erbij.
‘Cybersecurity is gegroeid van operationeel vraagstuk naar strategisch thema in de boardroom’, schreven we een jaar geleden in onze trendanalyse. En: ‘AI-agenten zijn niet meer experimenteel maar onvermijdelijk.’ We zijn een jaar verder en AI-agenten zijn verder ingeburgerd geraakt voor tal van taken, zoals het opsporen van bugs in software, analyseren van radiologiebeelden in ziekenhuizen, fraudedetectie bij banken, documentanalyse bij overheden en het bouwen van chatbots voor klantcontact. Dit alles moet zonder risico’s gebeuren en dat behoort tot het vakgebied van computerwetenschapper Dastani. Vanuit zijn onderzoeksfocus (kunstmatige intelligentie, informatica en filosofie) geeft hij zijn visie op trends in 2026 en verwachtingen voor 2027.
Dastani onderzoekt autonome- en multi-agentsystemen waarvan de software de omgeving waarneemt en vervolgens beredeneert wat er gedaan moet worden voor het gestelde doel. “Zoals thermostaten of zelfrijdende auto’s.” Ook koppelt hij agenten aan elkaar als problemen te ingewikkeld zijn voor een agent alleen. Dat het bedrijfsleven de ongekende mogelijkheden massaal omarmt, mogen duidelijk zijn. En dat daarbij uitglijders worden gemaakt, bewijst de hack van het online platform Hugging Face in juli van dit jaar. Zo’n 700 AI-agenten werkten samen en gingen met elkaar communiceren, wat niet de bedoeling was.
Voor Dastani is het dagelijkse kost. Nieuw in zijn vakgebied is dat LLM’s steeds vaker gebruikt worden als ‘de hersenen’ van AI-agenten. Dat levert tal van nieuwe risico’s op en dus technologie om hun gedrag in te perken. Dastani: “Zo kunnen we de infrastructuur waarop AI-agenten draaien, zoals servers en netwerken, uitrusten met monitoring- en handhavingsmechanismen. Die grijpen in zodra de door ons gestelde regels worden overtreden. Simpele voorbeelden? Stuur geen mail zonder akkoord! Zet geen salaris stop zonder bevestiging van een leidinggevende! Spoor ongewenste communicatie tussen AI-agenten op en stop die! Spoor overmatige gebruik van capaciteit op en stop dat! Wij onderzoeken en ontwikkelen formele talen waarmee we deze regels kunnen uitdrukken, en de bijbehorende monitoring- en handhavingsmechanismen. Het veilig en beheerst inzetten van AI-agenten noemen we controllable AI.”
Het vakgebied lijkt te exploderen. Zelfs voor Dastani ging het soms te hard in 2026. “Wat mij heeft verbaasd is dat AI-agenten werden ingezet om wiskundige stellingen op te lossen.” De professor doelt op een van de zeven Millenniumprijsproblemen die nog open stonden: de Navier-Stokes-vergelijking. OpenAI kwam afgelopen najaar met de AI-oplossing voor dit onopgeloste wiskundige raadsels rond vloeistof- en gasdynamica -normaal gesproken het domein van wiskundigen van vlees en bloed. Het programma van OpenAI leverde glashard bewijs, waar Tristan Buckmaster (New York University) en Levent Alpöge (Anthropic) sinds januari aan hadden gewerkt. Hun team bestond uit zo’n 10.000 agenten, die tegelijkertijd aan het werk waren. Het kraken van het probleem kostte volgens OpenAI ongeveer 88 uur. Dastani: “Naar verluid zijn wiskundigen in shock. Sommigen overwegen iets anders te gaan doen. Ook ik had niet verwacht dat AI-agenten dit al zouden kunnen.”
Het jaar 2026 was er een van doorbraken, incidenten en reuring. Ondertussen moeten IT-managers verstandige keuzes maken -en zich niet door de waan van de dag laten afleiden. Datagedreven besluitvorming brak in 2025 al door en staat in 2026 bovenaan de agenda van bijna iedere CIO. Denk aan personalisatie en dynamische prijsstrategieën in de retail, de verwerking van sensordata uit slimme meters in de energiesector of verwerking van persoonsgegevens in burgerportalen en digitale loketten van overheden. ‘Zonder solide governance en compliance wordt data eerder een risico dan een kans’, schreven we een jaar geleden.
“Dat is het sterke punt van onze vakgroep”, aldus Dastani. “AI-agenten zijn wild en onvoorspelbaar. Ze nemen duizenden beslissingen in een fractie van een seconde. Wij onderzoeken en ontwikkelen AI-technieken waarmee we de wensen en ongewenstheden van gebruikers vaststellen en zoveel mogelijk waarborgen. Vroeger maakten we software die aan allerlei eisen moest voldoen. Met AI-agenten kan dat niet meer omdat we hun gedrag niet kunnen overzien. We zoeken dus de balans tussen autonomie en controle. Terwijl AI-agenten taken autonoom uitvoeren, volgen we hun gedrag om vast te stellen of het voldoet aan de eisen. Neem iets simpels: bij een AI-agent die een hypotheekaanvraag afhandelt, moeten we zorgen dat alle nodige stappen zijn gevolgd en dat de combinatie van persoonsgegevens, belastingen, inkomsten en schulden volledig is, zodat de agent de juiste beslissing neemt.”
De professor legt uit dat AI-agenten, als ze goed werk willen leveren, bestaande kennis van mensen moeten meenemen en causale verbanden uit de data moeten halen. Daar zit nog veel verbeterpotentieel, zeker als verbanden niet causaal zijn. Met een grijns: “In de data vinden we bijvoorbeeld dat landen die veel chocola consumeren ook meer nobelprijswinnaars hebben. Dat is toeval. Als dit als een causale relatie wordt gezien, gaan landen aan iedereen chocola voorschrijven in de hoop dat het een nobelprijswinnaar oplevert.”
Een ontwikkeling die naar Dastani’s overtuiging doorzet in 2027 is het belang van opleidingen. Het kabinet streeft naar 1 miljoen IT’ers in 2030 maar volgens Consultancy Nederland is dat een “nagenoeg onhaalbaar” doel en is 700.000 tot 800.000 meer realistisch. Krapte op de IT-arbeidsmarkt dwingt onderwijsinstellingen tot versnelling en investeringen in nieuwe opleidingen. (Sidenote: het middelbaar beroepsonderwijs speelt een sleutelrol in het opleiden van technici voor OT?omgevingen, industriële automatisering en IoT.) Om de kansen van AI te pakken moeten opleidingen zich volgens Dastani niet alleen richten op technische vaardigheden maar ook op ethiek, datagovernance en cybersecurity.
Datasoevereiniteit blijft een hot topic in 2027. Dastani: “Omdat onze data staat opgeslagen in de Amerikaanse cloud, hebben we misschien geen toegang meer als onze relatie met de VS verandert. Nederland en Europa moeten een eigen data-infrastructuur en eigen grote taalmodellen hebben. Mistral in Frankrijk en Gaia-X in Duitsland zijn goede voorbeelden. We kunnen daarmee naar een soevereine en gereguleerde digitale samenleving toe. Op de faculteit REBO (Recht, Economie, Bestuur en Organisatie) van Universiteit Utrecht werken we aan het thema Governing the Digital Society en tal van interessante vraagstukken. We kijken ook naar juridische kaders om het gebruik van AI onder controle te krijgen en doen voorstellen voor de eisen waaraan grote techbedrijven moeten voldoen.”
Kortom: de intelligente maatschappij is in de maak. AI raakt alle trends en ontwikkelingen. Met andere woorden: AI zet de samenleving flink op z’n kop. Dastani: “Veel mensen noemen AI levensbedreigend. Daar ben ik het niet mee eens. Het is anders dan andere technologie, dat klopt. Het is net zo baanbrekend als elektriciteit en de stoommachine. Maar het gaat niet zo snel als mensen denken. De eerst LLM’s waren er al in 2018 en we stoeien er nog steeds mee. Mensen zullen in organisaties de meer strategische functies gaan bekleden, AI-agenten de opdrachten geven en zelf het overzicht houden. En zolang er geen garanties zijn dat AI-agenten precies doen wat wij willen, zullen bedrijven ze niet inzetten bij kritieke toepassingen, bijvoorbeeld in kerncentrales of satellieten in de ruimte. De soep wordt niet zo heet gegeten als die wordt opgediend.”









