De juridische risico's van AI - inzichten uit Booster #53

Ik ben founder en host van de CyberSecurityBooster. In de boostersessies (30 min durende webinars) bespreek ik elke maand allerlei onderwerpen over digitale weerbaarheid. Inmiddels zijn er zo’n 1200 actieve deelnemers. Je kan overigens alles terugvinden op: https://www.cybersecuritybooster.nl/

In dit artikel bespreek ik de kernpunten van de juridische uitdagingen rondom AI, uit in Booster #53. In deze Booster besprak ik met expert Jeroen Naves de volgende vragen:

Hoe om te gaan met de inherente fouten van AI? Hoe om te gaan met de aansprakelijkheid van AI hulpjes? En met privacy en intellectueel eigendom?

Jeroen Naves is IT-advocaat en partner bij Pels Rijcken.

Hieronder geef ik de inzichten puntsgewijs weer:

Hoe om te gaan met inherente fouten?

Het moge inmiddels redelijk algemeen bekend zijn dat AI niet denkt, maar uitspraken doet op basis van kansberekening. Bijvoorbeeld: taalmodellen schatten in de basis welke woorden het beste passen op voorgaande woorden. Dat betekent dat fouten inherent zijn aan AI aangezien er dus ook een kans is dat verkeerde woorden, uitspraken of data gepresenteerd worden. Jeroen Naves stelt: de wetgever verbiedt AI-systemen niet omdat ze fouten maken, maar stelt eisen aan de integriteit van het proces om risico’s te minimaliseren.

Wanneer een organisatie AI implementeert in het primaire proces zijn de volgende processtappen belangrijk:

1. Risicomanagement: Pas processtappen toe die evenredig zijn aan de impact. Hoe groter het gevolg voor de mens, hoe zwaarder de toetsen dienen te zijn.

2. Testing & logging: Je moet kunnen reconstrueren wat er is gebeurd. Leg je beslissingen die je laat maken (prompts, invoerdata e.d.) of ondersteunen door AI dus vast.

3. Discriminatie-check: Let op onrechtmatige discriminatie op basis van bevooroordeelde trainingsdata.

   Subscribe now

Aansprakelijkheid: onze AI-hulpjes als huisdier

Tijdens de booster stelde een deelnemer de vraag: wie is verantwoordelijk als een zelfstandig opererende AI-agent een foute voorspelling doet of onrechtmatige contractafspraken maakt? Specifieke AI-wetgeving staat op dit punt nog in de kinderschoenen. Maar we kunnen naar het huidige verbintenissenrecht kijken: het AI-systeem als huisdier.

Net zoals een eigenaar aansprakelijk is voor de schade die zijn hond aanricht, ben jij als ontwikkelaar of gebruiker verantwoordelijk voor de acties van je AI-agent. Omdat er nog geen jarenlange jurisprudentie is, is het juridische gebied natuurlijk grijs. Het advies: better safe than sorry. Ga ervan uit dat de juridische rekening van schade als gevolg van de manier hoe jij AI toepast altijd bij jouw of je organisatie terechtkomt.

Share

Privacy en de AVG:

We bespraken twee relevante perspectieven die je kan gebruiken om de relatie tussen AI en de AVG (Algemene Verordening Gegevensbescherming) goed te krijgen:

1. Implementatie: Gebruik je AI voor besluiten die mensen raken? Dan krijg je te maken beperkingen op geautomatiseerde besluitvorming (art 22 AVG). Een grondige DPIA (Data Protection Impact Assessment) is hier belangrijk.

2. Training: Grote taalmodellen (LLMs) zijn getraind op gigantische datasets vol persoonsgegevens. De rechtmatigheid van die basis staat ter discussie, wat de betrouwbaarheid van het model op lange termijn onder druk zet. (zie hieronder)

Intellectueel Eigendom:

Mogen we de output van een AI-model gebruiken als de input onrechtmatig is verkregen? Er zijn experts die betogen dat vrijwel alle grote LLM-aanbieders gebruik maken van illegaal verkregen data (bijvoorbeeld van boeken, auteursrecht) voor het trainen van hun modellen.

De juridische strijd is echter nog niet beslecht. Tech-reuzen beroepen zich juist op uitzonderingen in het auteursrecht. Jurisprudentie zal bepalen of we als consumenten van die taalmodellen de vruchten van deze ‘besmette boom’ mogen blijven plukken. Tot die tijd blijft intellectueel eigendom bij AI een juridisch lastige zaak.

AI in de publieke sector:

Bij publiekrechtelijke besluitvorming is ‘uitlegbaarheid’ geen nice to have, maar een harde juridische eis. Een overheidsinstantie moet voor de bestuursrechter exact kunnen verantwoorden hoe het systeem van input naar output is gekomen. Het is dus een fundamentele vraag welke plaats AI, waar eigenlijk niemand precies weet hoe men van input naar output komt, kan hebben in publiekrechtelijke besluitvorming.

Volgende Boostersessie:

Wilt je de stap zetten naar meer strategische autonomie? Tijdens de volgende CyberSecurityBooster duiken we in de praktische ervaringen met Europese alternatieven. Je bent van harte welkom om deel te worden onze boostercommunity.

Bezoek cybersecuritybooster.nl voor de volledige bibliotheek en schrijf je in voor de volgende sessie.

*De standpunten en meningen van de organisatie van de CyberSecurityBooster en/of de gastsprekers zijn onafhankelijk en kunnen afwijken van eventuele officiële standpunten van partners. De partners zijn niet verantwoordelijk voor de inhoud van uitlatingen en reacties van derden op de hier gepubliceerde stukken, video’s en geluidsfragmenten en ondersteunen de booster puur door de inhoud te delen onder hun achterban.”