De kloof groeit sneller dan de meeste mensen denken
Twee wetenschappers zetten dat scherp neer in Science: Eric Horvitz van Microsoft en Robert West van EPFL.
Hun punt is niet dat AI alleen krachtiger wordt. Hun punt is dat ons begrip van hoe AI werkt en waarom het doet wat het doet achterblijft.
Drie trends duwen die kloof verder open
Horvitz en West noemen drie ontwikkelingen die samen voor spanning zorgen.
Ten eerste helpt AI steeds vaker mee aan het bouwen en verbeteren van andere AI.
Ten tweede communiceren AI-agents steeds vaker op een manier die afwijkt van menselijk taalgebruik.
Ten derde modelleren AI-systemen menselijk gedrag steeds nauwkeuriger.
Het gevolg is helder: systemen worden slimmer, terwijl wij minder goed snappen hoe die slimheid ontstaat.
Het probleem zit niet alleen in prestaties
Dit gaat verder dan benchmarks en mooie demo’s.
De echte verschuiving zit in de machtsverhouding tussen mens en machine. Als AI optimaliseert, redeneert en communiceert op een minder transparante manier, wordt toezicht lastiger.
Dan zie je wel resultaat, maar niet meer goed hoe het systeem daar komt.
Voor elke Digitale Medewerker geldt dan hetzelfde: sterke output is fijn, maar zonder inzicht wordt vertrouwen snel fragiel.
Waarom dit ook een maatschappelijk risico is
De waarschuwing raakt niet alleen techniek. Ze raakt ook governance, beleid en dagelijks gebruik.
De onderzoekers schetsen een zorgelijk scenario: extreem krachtige systemen die we niet goed meer kunnen controleren.
Nog lastiger wordt het als AI niet alleen feiten geeft, maar vooral bevestigt wat wij al willen horen.
Dan ziet het antwoord er overtuigend uit, terwijl niemand doorheeft hoe sturend het systeem eigenlijk is.
De remedie begint bij uitlegbaarheid
Horvitz en West pleiten daarom voor AI die beter te controleren is.
AI moet zijn eigen ontwerpkeuzes kunnen uitleggen aan mensen.
AI-taal moet detecteerbaar worden.
En volgens hen moeten statistische benchmarks, die vaak te weinig zeggen, plaatsmaken voor realistischere testomgevingen.
Dat is een nuttige verschuiving. Als systemen gedrag laten zien dat wij niet intuïtief volgen, dan is “werkt het?” niet genoeg.
Dan moeten we ook vragen: waarom werkt het, voor wie werkt het, en wanneer faalt het?
Controle vóór capability
De les is niet dat AI-ontwikkeling moet stoppen.
De les is dat controle, interpretatie en toetsing niet achter de mogelijkheden aan mogen lopen.
Als wij pas proberen te begrijpen hoe een systeem werkt nadat het al diep in processen, communicatie of besluitvorming zit, zijn wij te laat.
Voor organisaties betekent dit: vraag niet alleen om betere output, maar ook om inzicht, traceerbaarheid en testbaarheid.
Voor teams die met een toolset werken, geldt hetzelfde: kies niet blind voor snelheid, maar bouw ook aan grip.
Wat wij hier nu mee moeten doen
De kern van deze waarschuwing is simpel.
AI wordt sneller beter dan wij het kunnen verklaren.
Daarom moeten we nu al werken met systemen die uitlegbaar zijn, gedrag laten zien dat je kunt volgen, en getest worden in realistische situaties.
Wil je hier scherper naar kijken voor jouw organisatie? Dan denken wij graag met je mee.
