Customer confusion & goede AI toepassingen

Toen ik vanmiddag een broodje met pindakaas en jam at in de keuken, moest ik denken aan een podcast van de Wall Street Journal van een paar maanden geleden (ik beloof dat dit bij AI uit zal komen). Deze aflevering ging over een rechtszaak die het bedrijf Smuckers heeft aangespannen tegen Trader Joe’s (een supermarktketen) omdat hun huismerk ingevroren peanut butter & jelly sandwiches te veel zouden lijken op die van Smuckers. Er werd over ‘huismerken’ gesproken met dezelfde walging als over vakbonden. Bovendien vond Smuckers dat de verpakking van Trader Joe’s te veel leek op die van hen (een blauwe doos met een foto van een opengesneden boterham), wat zou kunnen leiden tot---oh, horror!---customer confusion.

Nou is dit natuurlijk niks bij elk ander bizarre bericht over de andere kant van de oceaan die we de afgelopen maanden hebben ontvangen (ik scroll tegenwoordig direct door als ik het woord ‘Trump’ zie). De reden waarom deze podcast zo bij me is blijven hangen is omdat ik er maar niet over uit kom welk onderdeel van het verhaal ik nou het meest hallucinant vind:

1. Dat er ingevroren PB&Jelly broodjes bestaan. Het duurde me 5 minuten om mijn boterham te maken, en dat is alleen omdat ik het brood geroosterd had omdat ik het lekker vind als de pindakaas een beetje smelt. Pindakaas, jam, en brood zijn nou ook niet bepaald moeilijke ingredienten om te bewaren. Sterker nog, dit (of een variant ervan met banaan in plaats van jam) is wat ik eet als ik geen boodschappen heb gedaan. Brood, pindakaas en een vorm van fruit hebben we altijd wel in huis.

2. De haat tegen huismerken. Deze verwarring wordt zeker versterkt door het feit dat ik als goede Hollander dol ben op huismerken. Maar ik kan het me gewoon niet voorstellen: een equivalent, goedkoper alternatief waar je niet betaalt voor de marketing. Ik snap wel dat de A-merken de huismerken maar een beetje vervelend vinden. Toch vind ik het bijzonder dat het algemeen geaccepteerd is in de V.S. dat huismerken uncool zijn, vooral omdat er daar veel meer mensen in diepe armoede leven dan hier.

3. ‘Customer confusion.’ Oh, nee! Ik heb per ongeluk de verkeerde ingevroren pindakaas-en-jam boterham gekocht. De wereld gaat ten onder.

Ik had het eerlijk gezegd wel te doen met de journalisten van de podcast. Aan de ene kant bespraken ze deze situatie alsof het de normaalste zaak op de wereld was. Aan de andere kant kon ik wel een verontschuldigende glimlach door voelen sluimeren. Kort gezegd: Amerika is een vreemd land, waar consumerisme koning is, en marketingafdelingen de opiniemakers zijn.

In deze context is de uitspraak van Microsoft-baas Satya Nadella tijdens het World Economic Forum in Davos niet zo gek. Hij zei dat we allemaal nog meer AI moeten gaan gebruiken, anders komt de AI boom in gevaar. Ik moest er om lachen, want het klinkt als het ‘customer confusion’ argument. Oh neeeee, ChatGPT, CoPilot, Claude en hun datacentra gaan toch niet de wereld overnemen.

Wat vervelend.

De cultuurverschillen, en dan vooral de waardeverschillen tussen de V.S. en Europa zijn voor mij de belangrijkste reden waarom we onze eigen A.I. strategie en wetgeving nodig hebben, en waarom we niet aan de zogenaamde A.I. race mee moeten doen. Het is alsof je meedoet aan een bakwedstrijd, maar je er bij de prijsuitreiking achter komt dat de jury het helemaal niet eens je taart heeft geproefd omdat het ze alleen maar ging om hoe mooi hij er uit ziet.

Ik voel dit waardeverschil heel erg omdat ik dit ook vaak ervaar in onderzoek. Voor sommige mensen is het heel belangrijk dat jij iets doet wat super technisch ingewikkeld is, terwijl het voor mij belangrijker is om iemand te helpen met de oplossing die ik maak. Waarden zijn niet per se goed of fout, maar we moeten als samenleving wel het er over eens worden welke set waarden de meesten van ons kunnen vertegenwoordigen. En vanuit mijn ervaring in Europa, en al helemaal in Nederland, zijn we niet zo kapitalistisch ingesteld als de V.S.

Moeten we dan huismerk-AI uitbrengen? AI systemen die niet zo flashy zijn, maar die ons minder kosten: minder grondstoffen, energie, maatschappelijke kosten. AI systemen van de onderste plank, in de beste zin van het woord. Er bestaan al meerdere alternatieven: het Franse Mistral AI, DeepL, de Europese vervanging voor Google Translate, en natuurlijk ons eigen GPT-NL. Ik heb er gemengde gevoelens over, want het blijft toch een beetje na-apen.

Wat ik pas vooruitgang zou vinden: als de EU die stomme AI helpdesk chatbots illegaal zou maken. Waar we over andere LLM en GenAI toepassingen nog twijfels hebben over of ze ons wel efficiënter maken, durf ik met zekerheid te zeggen: die AI helpdesk bots bestaan echt alleen om je tijd te verdoen (en managers bij te maken).

Afgelopen dinsdag mocht ik een praatje geven voor VWO-natuurkunde docenten tijdens een avond op mijn eigen faculteit. Ik was uitgenodigd om te vertellen over mijn onderzoek naar methaanpluimdetectie, omdat het een mooi voorbeeld is van een goede toepassing van AI. Ik zat te denken: ik vind het natuurlijk leuk om over mijn onderzoek te vertellen, maar hoe kan ik iets van dit praatje maken dat docenten ook de klas in kunnen nemen?

Het herinnerde me aan een hackathon voor middelbare scholieren waar ik in December mentor was geweest. Er waren twee thema’s: veiligheid op de fiets, en een AI oplossing voor veiligheid van kinderen online. Aan het einde van de dag mochten de groepjes met de hoogste beoordeling van de jury en het publiek hun ideeen plenair presenteren.

Twee van de drie AI toepassingen waren, hou je vast, AI chatbots voor kinderen om mee te praten als ze verdrietig zijn. Ja, fantastisch idee dacht ik. We hebben natuurlijk nooit gehoord van depressieve kinderen die zelfmoord plegen nadat ze met ChatGPT gechat hebben....

Die hele middag riep een nieuwe vraag bij me op. Hoe kun je kinderen op een verantwoorde manier na laten denken over AI? Natuurlijk wil je niet tegen een groepje enthousiaste scholieren zeggen dat hun idee verschrikkelijk is. Maar als ze vrij iets kunnen bedenken, is de kans gewoon heel groot dat ze een problematische AI toepassing bedenken. Bij AI denken veel mensen, en al helemaal kinderen, aan chatbots. Dan krijg je oplossingen die variaties zijn van met AI tekst of afbeeldingen maken. Ik denk dus dat het eigenlijk geen goed idee is om zo’n open opdracht te geven.

Wat dan wel? Je hebt veel basiskennis nodig om een nieuw AI systeem te bedenken (technische kennis over AI maar ook over de toepassing, dus bij depressie moet je iets weten over psychologie/behandeling). Ik denk dat het productiever is om het om te draaien: in plaats van iets te maken en dan achteraf te bespreken of het wel een goed idee was, beginnen met bespreken wanneer het eigenlijk een goed idee zou zijn om AI te gebruiken. Door middel van een gestructureerde discussie kun je leerlingen aanmoedigen hun eigen mening te vormen. Zo stimuleer je kritisch denken, en vermijd je ook dat je je mening over AI toepassingen oplegt aan je leerlingen.

In mijn praatje heb ik dus ook de vraag opgeworpen: maar wat is eigenlijk een goede AI toepassing? En hoe bespreek je dat? Ik denk dat je best ver kunt komen met de volgende 3 vragen:

1. Wat is het probleem? Wordt hier wel een probleem opgelost? Dit klinkt triviaal maar ik krijg vaak het gevoel dat we technologie voor de leuk toepassen, of om een denkbeeldig probleem op te lossen. Een voorbeeld uit het AI Deltaplan, dat pleit voor zelfrijdende auto’s. Waarom hebben we precies zelfrijdende auto’s nodig? Welk probleem lost dat hier op? Ik heb daar niet zomaar een antwoord op klaar. Vergelijk dat met een ander, veel simpeler, AI systeem: het spam-filter in je mailbox. Het probleem is hier simpel: we krijgen allemaal rotzooi naar onze mail gestuurd, en dat willen we liever niet allemaal zien.

2. Kunnen we het op een makkelijkere manier oplossen? Soms kan het allemaal veel simpeler dan met een AI systeem. Bijvoorbeeld van mijn verhaal op de LinkedIn-pagina van NLWetenschap over zoeken naar de stoomboot met AI. Je zou theoretisch gezien met behulp van satellietfoto’s en een AI model kunnen proberen de stoomboot te vinden. Maar zoals ik aan het einde van de week onthulde: er is een veel simpelere manier om verloren schepen terug te vinden. Het AIS systeem. Schepen zenden al continu hun locatie uit, hier heb je geen ingewikkeld opsporingssysteem voor nodig. En om terug te komen op het spam-filter: dit is dan juist een goede toepassing van AI want handmatig spam-mailtjes detecteren is ingewikkeld. Dan zou je handmatig allemaal outlook-regels moeten opstellen, dat als de mail het woord ‘erfenis,’ ‘urgent,’ of ‘prins’ bevat, het naar je spam gaat. Het is veel simpeler om een AI model automatisch dit soort regeltjes te leren.

3. Heiligt het doel de middelen? Tenslotte is er nog de laatste vraag, en dat is of het het wel waard is om een AI systeem te bouwen. Het kan namelijk veel kosten: niet alleen geld, maar dus ook grondstoffen, energie, of maatschappelijke kosten (denk aan mensen die allemaal verschrikkelijke foto’s en teksten moeten bekijken en beschrijven zodat generatieve AI modellen ermee getraind kunnen worden). Is het probleem belangrijk genoeg in vergelijking met hoeveel het kost om de oplossing te maken? Dat is de vraag. Gelukkig zijn heel veel AI systemen eigenlijk heel simpel, en kosten ze niet zo veel. Bijvoorbeeld het spam-filter. De prijs is hier vooral nauwkeurigheid: af en toe zullen er echte emails in de spam terecht komen, en zullen spam emails toch in je inbox komen. Geen AI model is perfect. Maar de prijs is hier niet zo hoog. Waar de prijs van nauwkeurigheid wel heel hoog was? De toeslagenaffaire. Soms kun je je fouten niet veroorloven. Bij de implementatie van AI systemen zijn er heel veel mogelijke kosten waar je rekening mee moet houden.

Wat nog extra bijzonder was aan het praatje: drie van mijn eigen docenten van mijn bachelor zaten in de zaal. Én een jaargenoot die nu geloof ik docent is! Super leuk.

Naast de gebruikelijke leestip heb ik deze week twee extra leestips: een interview over mijn drijfveren, en mijn eerste column over AI in films, beide in De Ingenieur! Ik had dit vorige nieuwsbrief al gemeld, maar toen had ik nog geen links.

Verder, deze week per uitzondering ook eens een fictie-aanbeveling. Ik ben de korte verhalenbundel ‘Birds of America’ van Lorrie Moore aan het lezen. Man, wat ben ik jaloers op hoe die vrouw schrijft. De verhalen gaan over alledaagse mensen met alledaagse problemen, maar zijn geschreven met punchy zinnen met verfrissende metaforen. Hier gelijk een mooie om de nieuwsbrief mee te eindigen:

They stayed at a tiny stucco bed-and-breakfast, one with a thatched roof like Cleopatra bangs.

Fijn weekend!