AI-agents en de grenzen van mens-machine-mens

Een journalist laat AI een artikel maken, controleert de feiten en drukt op publiceren. Mens-machine-mens. De journalist begint het proces en eindigt het ook. Verantwoord AI-gebruik geregeld.

Maar wat als het AI-systeem daarvoor al honderden documenten heeft doorzocht? Als het heeft bepaald welke relevant zijn, bronnen heeft gerangschikt en andere heeft genegeerd, verbanden heeft gelegd met eerdere berichtgeving en onderweg tientallen tussenbeslissingen heeft genomen?

Wat controleert die journalist dan eigenlijk nog?

Die vraag wordt steeds belangrijker nu redacties opschuiven van generatieve AI naar agentic AI: systemen die niet alleen een opdracht uitvoeren, maar zelfstandig een reeks taken en beslissingen afhandelen.

Het Nederlandse mens-machine-mens-principe is daarvoor een interessante lakmoesproef.

Het ANP legde het principe al in 2023 expliciet vast in zijn AI-leidraad: denken en beslissen begint en eindigt bij de mens. AI kan assisteren bij de tussenliggende productie, maar door AI gegenereerde informatie wordt door een mens gecontroleerd.

Het principe heeft inmiddels breder ingang gevonden. DPG Media gebruikt het expliciet voor de ADR-redacties: de journalist bepaalt welk onderwerp wordt opgepakt, AI kan bijvoorbeeld samenvatten of suggesties doen en de journalist bepaalt wat daarvan wordt overgenomen. Ook de Volkskrant schrijft dat een mens AI aanstuurt en een mens het resultaat controleert.

Dat is een verstandig uitgangspunt. Maar het is ontworpen voor een wereld waarin mensen AI gebruiken. De volgende governance-vraag gaat over AI-systemen die delen van het journalistieke werk uitvoeren.

Een recente analyse van het Reuters Institute laat zien hoe redacties hun AI-governance professionaliseren. Informeel gebruik maakt plaats voor richtlijnen, commissies en formele governance-structuren.

Menselijke controle blijft daarbij het belangrijkste veiligheidsmechanisme. Precies daar ontstaat een schaalprobleem. Editors moeten steeds meer AI-output beoordelen bovenop hun bestaande werk. Bij Scroll in India is zelfs een grens gesteld aan hoeveel AI-assisted output medewerkers geacht worden te controleren.

Het probleem met human-in-the-loop, of mens-machine-mens, is dus niet dat het principe verkeerd is. Het beschrijft vooral waar de mens zich in het proces bevindt, niet hoeveel beslissingen die mens daadwerkelijk kan overzien.

AI-capaciteit en menselijke aandacht schalen bovendien totaal verschillend. Een agent kan honderden handelingen uitvoeren zonder moe te worden. Redactionele aandacht blijft schaars.

Als iedere uitbreiding van automatisering evenveel extra menselijke controle vereist, eet die automatisering uiteindelijk haar eigen efficiëntiewinst op.

Voor de huidige generatie AI-tools werkt het principe goed. Een redactie kan bepalen dat journalisten geen vertrouwelijke informatie in publieke modellen mogen invoeren. Feiten uit AI-output moeten worden gecontroleerd. Synthetische citaten zijn verboden. Nieuwe toepassingen moeten langs een commissie of de hoofdredactie.

Dat zijn regels voor mensen die gereedschap gebruiken. Maar stel dat een AI-agent gemeentelijke documenten monitort. De agent bepaalt welke stukken mogelijk nieuwswaardig zijn, zoekt eerdere berichtgeving erbij, identificeert relevante bronnen, maakt een samenvatting en stelt publicatie voor.

Waar plaats je dan de tweede mens? Na het zoeken? Na de selectie? Na de bronbeoordeling? Voor het schrijven? Voor publicatie?

Zet je na iedere stap een journalist, dan blijft er weinig van de agent over. Zet je alleen aan het einde een journalist, dan heeft de machine daarvoor al een reeks journalistiek relevante keuzes gemaakt.

De volgende fase van AI-governance gaat daarom minder lijken op een beleidsdocument en meer op systeemontwerp.

Daar is nog een diepere reden voor. In onze recente Polders-whitepaper over Information Governance betogen we dat AI niet alleen wordt ingezet bij de productie van journalistiek. AI bepaalt steeds vaker ook wat journalisten überhaupt te zien krijgen: wat wordt gevonden, geselecteerd, gerangschikt, gekoppeld en samengevat.

Eerdere technologie veranderde vooral hoe informatie werd geproduceerd en verspreid. AI grijpt ook in op de manier waarop informatie wordt ontdekt, gewogen en begrepen.

Agents gaan nog een stap verder. Ze organiseren die informatie niet alleen, maar handelen ermee.

Governance moet daarom niet alleen gaan over AI-output, maar ook over de informatie-infrastructuur en beslispaden die eraan voorafgaan. Welke bronnen mag een agent gebruiken? Welke handelingen mag hij zelfstandig uitvoeren? Welke claims vereisen verificatie? Welke provenance moet worden bewaard? Wanneer leidt twijfel tot escalatie? En welke beslissingen moeten altijd bij een journalist blijven?

Redactionele regels → toestemming → vertrouwde bronnen → provenance → evaluatie → escalatie → publicatie

Het journalistieke oordeel verdwijnt niet. Het verhuist naar voren in het proces.

Neem opnieuw die agent voor gemeentelijke documenten.

Een klassiek AI-beleid kan bepalen:

Alle door AI gegenereerde feitelijke claims moeten vóór publicatie worden geverifieerd.

In een agentic workflow moet je zo’n principe vertalen naar regels die het systeem daadwerkelijk kan uitvoeren.

De agent mag bijvoorbeeld alleen documenten ophalen van vooraf goedgekeurde gemeentelijke en overheidsdomeinen. Iedere feitelijke claim moet gekoppeld blijven aan de oorspronkelijke bronpassage. Een claim die slechts op één bron berust, een beschuldiging over een identificeerbaar persoon bevat of niet aan een goedgekeurde bron kan worden gekoppeld, mag nooit automatisch door naar publicatie. Het systeem escaleert zo’n claim naar een redacteur.

Alle stappen worden gelogd. De precieze drempels zullen per redactie en toepassing verschillen. Het fundamentele onderscheid blijft hetzelfde:

Beleid beschrijft wat er moet gebeuren. Architectuur bepaalt wat het systeem wel en niet kán doen.

Die operationele laag kun je zien als een AI-control plane voor de redactie: de laag tussen modellen, agents, redactionele systemen en publicatie die toestemming, bronregels, provenance, evaluatie, escalatie en publicatierechten afdwingt.

Daar worden journalistieke principes uitvoerbaar.

Dat betekent niet dat menselijke controle moet verdwijnen. Integendeel.

Wel verandert de rol van de mens. Kasper Lindskow, Head of AI bij het Deense JP/Politikens, maakt in de Reuters Institute-analyse een belangrijk onderscheid. Je kunt individuele AI-outputs controleren, maar je kunt ook duizenden outputs bewaken en daarin patronen, afwijkingen en bias opsporen.

Dat is eerder human-on-the-loop dan human-in-the-loop.

Ook buiten de journalistiek zie je die verschuiving. Het AI Risk Management Framework van het Amerikaanse NIST behandelt governance niet als iets dat buiten het technische systeem staat, maar als iets dat gedurende de hele AI-lifecycle doorwerkt in ontwerp, evaluatie, monitoring en verantwoordelijkheden.

Voor redacties is de consequentie duidelijk: governance kan niet langer alleen in een AI-richtlijn staan. Ze moet mede bepalen onder welke voorwaarden AI-systemen mogen opereren.

Sinds 2 augustus 2026 is artikel 50 van de Europese AI Act van toepassing. Voor AI-gegenereerde of gemanipuleerde tekst die het publiek informeert over zaken van algemeen belang geldt een transparantieverplichting, met een relevante uitzondering wanneer menselijke review of redactionele controle heeft plaatsgevonden en een persoon of organisatie redactionele verantwoordelijkheid draagt.

Bij een journalist die ChatGPT als assistent gebruikt, is redelijk goed voorstelbaar wat die menselijke controle inhoudt. Bij een agent die vóór publicatie tientallen beslissingen heeft genomen, wordt dat ingewikkelder.

Wanneer is er nog sprake van betekenisvolle redactionele controle? Alleen een journalist die aan het einde op publiceren klikt, kan niet automatisch het antwoord zijn.

Mens-machine-mens was een nuttig principe voor de eerste fase van generatieve AI op redacties. De mens gaf de opdracht, de machine hielp en de mens controleerde. Agentic AI maakt die simpele keten poreus.

De volgende governance-opgave is daarom niet om overal nog een extra mens tussen te zetten. Het is om vooraf te bepalen welke journalistieke beslissingen een machine überhaupt mag nemen, op basis van welke informatie, binnen welke grenzen en wanneer de bevoegdheid verplicht teruggaat naar een journalist.

Redactioneel oordeel verschuift daarmee naar voren: naar workflowontwerp, databronnen, toestemming, evaluatie en escalatieregels.

Misschien moeten we mens-machine-mens daarom niet loslaten, maar opnieuw definiëren. De eerste mens hoeft niet iedere handeling te initiëren. De tweede mens hoeft niet iedere handeling te controleren. Maar mensen moeten wel bepalen binnen welke journalistieke architectuur de machine mag handelen.

Dat is de stap van verantwoord AI-gebruik naar bestuurbare AI.