BBB(b): Bowlingbaan, AI Bubbel en Betrouwbare bronnen

Afgelopen zondag hadden we een familiereunie in hetzelfde bowlingrestaurant waar we vroeger de verjardagen van mijn overgrootoma vierden. Bij het avondeten praatte ik met mijn neef (IT-er) over mijn onderzoek: ik ontwikkel AI-modellen om satellietbeelden te verwerken, waarbij een groot gedeelte van het werk eigenlijk het voorbereiden van data is om modellen mee te trainen. Hij merkte op: "Je gebruikt zeker AI om de data voor te bereiden."

Deze vraag bracht me even van mijn stuk, omdat het maken van een goede dataset voor mij één van de moeilijkste onderdelen van mijn werk is. Ik begin met een hele grote dataset van satellietbeelden, en om dat te transformeren tot iets waarmee je een model kunt trainen zijn twee soorten kennis nodig. Enerzijds domeinkennis van aardwetenschappers over de data en wat we proberen te detecteren (broeikasgassen in mijn geval). Anderzijds AI-kennis over hoe je een dataset samenstelt om het best mogelijke model te krijgen.

Alleen het opschonen van de data al is ingewikkeld. Er zitten gaten in de satellietbeelden door bijvoorbeeld wolken. Om een AI-model te trainen moet je die opvullen, en hoe je dat doet kan grote gevolgen hebben voor de prestaties van het model.

Even later zei mijn neef iets waardoor het kwartje bij me viel: hij vertelde dat hij op zijn werk soms AI gebruikt om data van het ene formaat naar het andere om te zetten – een beetje zoals een tabel uit een PDF omzetten naar Excel. "Aha!" dacht ik, "dit was waarschijnlijk wat hij bedoelde." En inderdaad is AI hiervoor een uitstekende toepassing, zelfs als je kunt programmeren (soms is het gewoon niet de moeite waard om uit te zoeken hoe je iets moet programmeren als je denkt dat je het maar één keer gaat doen).

Maar in veel gevallen (zoals mijn datasets) begin je niet met een netjes geordende tabel – dan moet je een hele hoop 'data engineering' doen voordat je überhaupt bij zo'n tabel komt. En die stap is niet makkelijk te automatiseren.

Ik had helaas geen goed antwoord klaar voor mijn neef, deze realisatie kwam pas later. Maar hopelijk kan ik dit nu beter uitleggen volgende keer dat ik een vergelijkbaar gesprek heb. Het was in ieder geval een herinnering dat media niet een volledig beeld geven van wat voor beeld mensen in hun hoofd hebben van AI (je hoort vooral van de extremen: de hypers en de doomers), en dat ik eigenlijk nog het meeste leer van face-to-face gesprekken hebben.

Uit persoonlijke ervaringen kan het lijken alsof AI gemakkelijk taken en banen kan vervangen, omdat het sneller is dan mensen bij bepaalde klussen zoals het omzetten van tabellen. Maar achter zulke simpele taken zitten vaak complexere processen die specifieke kennis en vaardigheden vereisen die niet zomaar te automatiseren zijn.

Een tijd geleden las ik een interessant artikel over waarom AI nooit programmeurs helemaal zou kunnen vervangen. De schrijver maakte een vergelijkbaar argument: bij het maken van software heb je twee soorten taken: ten eerste het bedenken van een oplossing voor een probleem of het ontwerpen van software, ten tweede het programmeren – je oplossing in code opschrijven.

AI kan prima code voor je schrijven als je een goede omschrijving geeft van wat je wilt (net zoals het een goede opzet voor een speech kan maken met een precieze omschrijving), maar AI kan niet zoals mensen problemen bedenken, laat staan met originele oplossingen komen (het kan alleen dingen herhalen die het al een keer heeft gezien). Met andere woorden: AI kan misschien wel heel goed programmeren, maar er blijft een bottleneck: het moeilijke denkwerk van software – ontwerpen, wat niet zomaar te automatiseren valt.

Het technische verhaal voorbij – ik geloof zeker dat AI en vooral chatbots zoals ChatGPT handig kunnen zijn voor bepaalde taken, maar het is geen makkelijke oplossing voor alles. Sterker nog, als je dit pessimistisch bekijkt is het zelfs gevaarlijk om te doen alsof AI overal een oplossing voor is, want dat betekent dat we ondertussen niet op zoek gaan naar werkelijke oplossingen voor onze maatschappelijke problemen.

Tegelijkertijd ben ik wel klaar met al het pessimisme rond AI – dan loop je het risico dat je overschat wat AI allemaal kan. Ik denk dat de hype-bubbel op een gegeven moment zal barsten: de opwinding stopt, en chatbot-achtige AI-toepassingen verdwijnen langzaam naar de achtergrond, net als alle andere AI-toepassingen die daar al stilletjes leven (zoals de zoekfunctie in de foto-app op je telefoon, die ook AI gebruikt).

Dus wat zijn wél oplossingen voor problemen die AI niet kan oplossen? Dat vond ik niet in het boek 'The AI Con' van Emily Bender en Alex Hanna, ondanks hun veelbelovende subtitel 'How to fight Big Tech's hype and build the future we want'. Het boek legt goed uit hoe veel berichten over AI in de media false beloftes doen, maar biedt weinig constructieve ideeën over hoe we wél die beloftes kunnen inwilligen. Eén van hun voorstellen is dat we simpelweg stoppen met AI gebruiken. Tja. Dat zie ik niet gebeuren.

Beter vind ik hun suggesties voor strengere wetgeving: inderdaad denk ik dat regulering uiteindelijk de beste bescherming biedt tegen 'slechte' AI. Maar dat beantwoord nog steeds niet hoe we de problemen oplossen die AI volgens Bender en Hanna niet kan oplossen.

Iets dat me ook opviel in het nieuws: 'AI-geletterdheid' – het idee dat we moeten leren omgaan met AI, vergelijkbaar met hoe je leert wat betrouwbare bronnen zijn. Iedereen (inclusief ik) herhaalt dat je de output van AI-modellen altijd goed moet controleren. Dat staat bijvoorbeeld ook onderaan het scherm bij Claude.

Tijdens het luisteren naar een podcast over digitale geletterdheid realiseerde ik me echter dat continu herhalen van 'je moet de output dubbelchecken' de plank misslaat. Want mensen die niet weten hoe je een antwoord moet controleren of bronnen moet nalopen hebben hier precies niks aan. Alleen mensen die het al weten snappen wat je bedoelt. Het is net als tegen mensen zeggen: 'je moet gezond leven'. Ja, dat weten we. Maar wat betekent het precies? En dat je het er mee eens bent, wil niet gelijk zeggen dat je het ook gaat doen. Ik jokkebrok ook tegen mijn dokter hoeveel glazen alcohol ik in een week drink (eerlijk gezegd vind ik die richtlijnen wel heel streng, want ik drink eigenlijk alleen nog maar in het weekend en grijp steeds vaker naar de 0.0).

AI legt dus een vinger op een bestaande zere plek: het is voor iedereen altijd al belangrijk geweest om kritisch te zijn over wat je online leest. Bij AI-chatbots is dit alleen extra moeilijk omdat je de context over de bron kwijtraakt (komt dit van de website van het RIVM, of uit een Facebook-groep?) en de tekst vaak zo overtuigend klinkt dat het makkelijk is om alles voor waar aan te nemen.

Onderwijs in digitale geletterdheid – leren beoordelen of online informatie betrouwbaar is – lijkt me daarom een goed idee.

Leestip van de week: de Fiction podcast van The New Yorker waar korte verhalen worden voorgelezen door andere schrijvers! Ik was nooit zo dol op audioboeken, omdat ik snel afgeleid raak en bij een boek kun je dan iets missen waardoor je er later niks meer van begrijpt. Maar korte verhalen zijn kort genoeg om hier geen last van te hebben, en het is leuk en ontspannend om naar te luisteren op de fiets naar werk.

Korte verhalen zijn sowieso literaire pareltjes – een soort espresso van de fictiewereld. Na het voorlezen bespreekt de fictieredacteur van The New Yorker het verhaal samen met de voorlezer. Ik vind de kalme toon van de redacteur ontspannend, maar als je niet van het analyseren van verhalen houdt kun je dat gedeelte ook gewoon overslaan.

Tot volgende week!