AI voelt voor veel organisaties nog steeds als pure snelheid.
Maar zodra systemen fouten maken, discrimineren of data opslokken zonder duidelijke toestemming, schuift de vraag meteen op.
Niet: wat kan AI allemaal?
Wel: wie bewaakt de grens?
De echte vraag is controle
De discussie rond OpenAI, Google en Meta draait steeds minder om demo’s.
Het gaat nu over macht, verantwoordelijkheid en toezicht.
De kern is simpel: hoe ver mogen algoritmen gaan, en wie grijpt in als het misgaat?
Europa kiest voor risicodenken
De EU pakt AI niet aan met blind gas geven, maar met een risicogebaseerde aanpak.
Hoe hoger het risico voor gezondheid, veiligheid of fundamentele rechten, hoe strenger de regels.
De Europese Commissie noemt onderwijs en andere gevoelige sectoren als high risk. Het Europees Parlement noemt ook werk, essentiële diensten en justitie.
Voor zulke systemen gelden zwaardere eisen: risicobeheer, documentatie, traceerbaarheid, datakwaliteit, transparantie en menselijk toezicht.
Ook copyright telt mee. Providers van algemene AI-modellen moeten beleid hebben om de EU-copyrightregels na te leven.
Waarom onderwijs en media extra kwetsbaar zijn
Juist in onderwijs en media lijkt AI handig, maar schuilt ook het meeste risico.
Kennisnet zegt dat generatieve AI leerlingen en leraren kan helpen, maar dat de mens centraal moet blijven staan. Belangrijke beslissingen vragen menselijk oordeel.
De organisatie waarschuwt ook voor bias in trainingsdata. Die kan gewoon terugkomen in de output.
Voor scholen geldt nog iets: fraudedetectie werkt niet zoals veel mensen hopen. Alternatieve toetsvormen en duidelijke schoolafspraken zijn nodig.
Voor redacties geldt hetzelfde principe. AI kan werk versnellen, maar hallucinaties maken broncontrole en transparantie onmisbaar.
De blinde vlek blijft data
De scherpste vraag is nog altijd: waarop zijn deze modellen getraind, en met welke toestemming?
OpenAI zegt dat het werkt met verschillende datasets, waaronder publieke data en data van partners. Gebruikers kunnen zich afmelden voor training met hun content.
Google noemt transparantie- en privacymaatregelen rond Gemini, zoals contentverificatie en controlemechanismen voor gebruikersdata.
Meta zet met Llama in op openheid, met open-sourcepositionering, model cards en publieke informatie over training en gebruik.
De Europese regels gaan verder dan goede bedoelingen. De Commissie wil een samenvatting van trainingsdata en naleving van copyright. Transparantie is dus geen PR-keuze, maar een eis.
Macht zit ook in chips en data
Deze discussie gaat niet alleen over techniek.
Ze gaat ook over marktstructuur.
Rekenkracht en data zitten sterk geconcentreerd bij grote partijen zoals Microsoft, Google, OpenAI en Meta. Wie de infrastructuur beheerst, beïnvloedt ook wie kan innoveren.
Daarom zijn de Digital Markets Act en mededingingstoezicht belangrijk. Ze moeten voorkomen dat AI niet alleen slim, maar ook gesloten wordt.
Wat organisaties nu moeten doen
De vraag is niet langer of je AI gebruikt.
De vraag is waar, hoe en met welke controle.
Een praktische basis ziet er zo uit:
- breng alle AI-toepassingen in kaart, ook onofficieel gebruik;
- wijs één verantwoordelijke aan;
- betrek privacy, security en juridisch vroeg;
- leg een fallback vast voor fouten en uitval;
- test op bias, hallucinaties en ongewenste effecten;
- meld helder wanneer AI een rol speelt.
Werk je met gevoelige data? Zet die dan nooit zomaar in publieke chatbots.
Gebruik alleen omgevingen met duidelijke verwerkersafspraken, beveiliging en datacontrole.
Zonder grenzen of zonder geweten?
AI is niet goed of slecht in zichzelf.
Het is een set keuzes: welke data, welk doel, welke controle, welke aansprakelijkheid.
Daarom is de vraag van BNNVARA terecht. Geweten ontstaat niet vanzelf in een model. Wij moeten het inbouwen.
Wil je dit scherp krijgen voor jouw organisatie? Breng je AI-gebruik in kaart en toets het aan de AI Act.
