Tijd voor een nieuwe nieuwsbrief. Ik ben bang om het te ‘jinxen,’ maar ik ben trots en verbaasd hoe goed het lukt om wekelijks deze nieuwbrief uit te blijven sturen – en dat jullie het ook lezen. Ken je iemand anders die mijn AI-inzichten zou willen lezen? Ik zou het leuk vinden als je deze nieuwbrief doorstuurt. Dankjewel!
Share Julia’s AI voor Aarde nieuws
Zoals ik vorige week schreef, was ik begonnen aan het boek ‘Made to Stick’ over effectieve communicatie. Ik heb hem ondertussen uit. Het gaf me veel ideeën die niet in de nieuwsbrief van vandaag passen. Later deze week publiceer ik daar een extra post over op mijn nieuwe nieuwsbrief-sectie ‘extra posts’ voor dit soort artikelen.
Ik zie luchtfoto-chatbots niet echt zitten
Google bracht afgelopen week een nieuw ‘Geospatial Reasoning’ model uit: ChatGPT voor ruimtelijke data – luchtfoto’s of andere data met een locatie, zoals je Google Maps tijdlijn. Dat klinkt veelbelovend, maar ik ben sceptisch dat dat heel goed zou werken: de enorme diversiteit geospatiale data en bias in data beschikbaarheid zijn hele hoge drempels om te overkomen.
ChatGPT is behoorlijk goed in tekst-taakjes zoals lange documenten samenvatten. Maar ruimtelijke datasets samenvatten om vragen te beantwoorden zoals ‘wat waren de economische gevolgen van de hittegolf vorige zomer’ is veel lastiger. Ruimtelijke datasets verschillen veel meer van elkaar dan een verzameling teksten. Hoe combineer je luchtfoto’s, metingen van een weerballon en recente data van het CBS? Zo simpel is dat niet.
Afgelopen jaar hoopten we studentenprojecten van ons vak Urban Computing minder tijdsintensief te maken door de studenten aan te moedigen ‘Geospatial foundation models’ te gebruiken. Dat zijn modellen getraind op heel veel satellietdata. Ze zijn gemaakt voor mensen die AI willen gebruiken maar bijvoorbeeld weinig data, rekenkracht, of ervaring met luchtfoto AI modellen ontwerpen hebben.
Studenten wonnen helemaal niet zo veel tijd. De modellen waren zo ‘kant en klaar’ dat het moeilijk was ze te gebruiken als je data niet precies in het juiste formaat was. Als het dan wel lukte, waren de resultaten helemaal niet zo goed als de resolutie van je luchtfoto’s te veel afweek van de trainingdata.
Ik sta als eerste in de rij voor een model dat ruimtelijke data uit meerder bronnen voor je kan combineren. Ik ben wekelijks veel tijd kwijt aan programma’s schrijven om informatie van satellietfoto’s, AI model voorspellingen en handmatige opmerkingen en annotaties samen te voegen. ESA is bijvoorbeeld ook al een tijd bezig met een LLM die je kan helpen om hun data op te vragen of zelfs wat analyses te doen.
Ik denk echter dat we er nog niet zijn. Ruimtelijke data is namelijk zo divers dat het bijna onmogelijk is om er één model voor te maken dat net zo algemeen is als ChatGPT met teksten.
Verder maak ik me ook zorgen over bias. Google’s geospatial reasoning demo laat zien hoe je vragen over Amerika kunt beantwoorden. Maar hoe zit het in landen waar bijvoorbeeld niet zo veel publieke data is? Niet elk land heeft een CBS. En hoe zit het met Duitsland, waar er lang geen Google Street View was, en er nog steeds gaten in zitten? Dat brengt me op het volgende punt: huidige AI systemen zijn niet bepaald democratiserend.
Is AI een democratiserende kracht?
Ik zag op LinkedIn een nieuw initiatief om AI ‘van iedereen’ te maken: 50 dagen AI. Het idee is moo: iedereen toegang geven tot de voordelen van AI. Maar gaat meer generatieve AI uitrollen echt iedereen helpen? De meeste Amerikanen denken niet dat het hun leven gaat verbeteren. Ik ben het daar deels mee eens.
Ten eerste heeft niet iedereen wat aan generatieve AI. Vooral mensen die al technische en ‘goede’ banen hebben. Denk je dat een schoonmaker veel heeft aan AI? Ten tweede: AI werkt niet even goed voor iedereen. Ja, het bias verhaal weer (oud artikel maar wel interessant, over portretfoto’s genereren met AI). Ik denk dus dat ‘consumer-facing’ generatieve AI, zoals DALL-E en ChatGPT alleen goed zijn voor een bepaalde groep mensen.
Aan de andere kant denk ik dat AI (generatief maar ook andere soorten) wél onzichtbare systemen beter te maken. Er zullen betere zoekmachines komen, online formulieren zoals van de belastingdienst worden misschien beter en passen zich aan op de gebruiker.
Techreuzen kiezen altijd voor zichzelf
Iedereen pushen om generatieve AI te gebruiken heeft in de eerste plaats voordeel voor de tech reuzen. 50 dagen AI is onder andere door Microsoft georganiseerd. Natuurlijk is het in hun voordeel om je AI aan te smeren als de volgende grote oplossing voor al jouw problemen. Dat doen ze echt niet alleen uit de goedheid van hun hart.
Recent Meta-nieuws laat ook wel weer zien hoe erg de tech reuzen met zichzelf bezig zijn: Meta kondigt aan dat ze bias in hun Llama model aan gaan pakken. Niet seksisme, racisme of meer ondersteuning voor andere talen dan Engels. Nee, Meta gaat de ‘linkse bias’ van modellen aanpakken.
Het 404 media artikel (link hierboven) schrijft dat dit dit neerkomt op ‘politieke onderwerpen zoals klimaatverandering van beide kanten belichten’. Herinneren we ons nog de artikelen tijdens coronatijd, dat de mening van één vaccinatievoorstander tegen een anti-vaxxer werd gezet? Dat soort vergelijkingen wekken de indruk dat er net zo veel mensen tegen vaccinaties zijn als vóór, wat helemaal niet waar is. Idem voor ‘gelijk belichten’ van klimaatproblemen. Het gevaar van klimaatverandering bespreken ‘van beide kanten’ laat het lijken alsof heel veel mensen denken dat klimaatverandering niet bestaat, terwijl er overweldigend bewijs is dat het wél gebeurt. Niks ‘bias aanpakken’, dus – eerder ‘slijmen bij Trump.’
Prompt engineering is een dystopische baan
Waar er banen door AI zouden kunnen verdwijnen, komen er ook nieuwe voor terug. Zoals prompt engineers: mensen die opdrachten schrijven voor AI modellen. Voor mij klinkt het als omgekeerde wereld: in plaats van dat wij als mensen nieuwe AI modellen trainen, is een prompt engineer een mens getraind door een AI model: je past je prompt aan op de antwoorden van het AI model totdat het ‘goede antwoord’ eruit komt.
Ik zie steeds meer ‘zo word je een prompt engineer’ artikelen langskomen. Een Volkskrant artikel over hoe AI de werkvloer verandert beschrijft een 17-jarige prompt engineer die zijn werk omschrijft als een soort manager van een AI model. Ik krijg daar een beetje ‘dropship cursus’ vibes van. Hij schildert prompt engineering af als een baan waarmee je makkelijk veel geld kunt verdienen, zonder enige vaardigheid. Behalve vragen kunnen stellen aan een AI model, dan.
Goed, ik doe liever iets anders met mijn dag dan met een AI model te ‘praten.’ Mij dus niet gezien als prompt engineer, beste LinkedIn recruiter!
Tech vrouwen als verzorgers
Ik las deze week twee profielen van vrouwelijke tech-eindbazen (Jay Graber van Bluesky en Meredith Whittaker van Signal). Vrouwen lijken veel meer bezig te zijn met verantwoordelijke technologie, zoals verantwoord omgaan met data. Bevestigt dat onze genderrol van ‘verzorger?’ Dat we willen dat nieuwe technologie de mensen om wie we geven geen kwaad doet? We zien genderrollen, vooral van vrouwen, vaak als een slecht ding. Maar het is niks om je voor te schamen als je wilt zorgen voor de mensen om je heen. Food for thought.
Leestips
Vandaag twee leestips over de rol van vrouwen in de maatschappij:
‘Invisible Women’ van Caroline Criado Perez, over alle ‘onzichtbare manieren’ waarop de wereld voor mannen is ontworpen. Het is een super interessant boek en laat zien hoe bias kan gebeuren op onverwachte manieren, bijvoorbeeld in het besluit of sneeuw eerst van de stoep of van de weg geruimd moet worden. Criado Perez heeft ook een scherpe substack.
‘De omwenteling’ van Suzanna Jansen. Ik kreeg dit boek met mijn afstuderen. Mijn eerste reactie was ‘ohjee een Nederlands boek’ – ik lees niet zo veel Nederlandse boeken meer (vraag me er eens bij een borreltje of kopje koffie naar, of lees de leestip van twee weken terug). Maar ik was meer dan positief verrast! Het boek vertelt hoe vrouwenrechten zijn veranderd door de ogen van meerdere generaties van Jansen’s familie. Aanrader als je meer wilt leren over de geschiedenis van feminisme in Nederland.
Heb jij leestips voor mij? Laat ze achter in de comments 👇
Comments
Nothing yet. Say the first thing.
Sign in to join the conversation.