Ik stond op het punt om mijn stem gratis weg te geven

Vandaag stond ik op het punt om Suno, een AI-muziekplatform, toestemming te geven om mijn stem te verwerken voor commerciële doeleinden. Simpelweg omdat ik met zo min mogelijk frictie muziek wil maken.

Meer dan twintig. Dat is het aantal nummers dat ik in het platform heb gemaakt in de afgelopen maanden, waaronder de afgelopen twee maanden. Ik bedoel gegenereerd.

Het begon als een experiment, omdat ik een essay aan het schrijven ben over AI-muziekgeneratie en de implicaties voor cultuur en macht.

Maar voor ik het wist, werd Suno een creatief ventiel. Een plek waar ik mijn verborgen deel voor muziek componeren herontdekte.

Ik componeerde en produceerde rouwliederen, overwinningsliederen, liefdesverklaringen. Los ging ik.

En toen opende Suno deze week de mogelijkheid om mijn stem te klonen. Eén langverwachte feature die mijn muzikale doorbraak, net als miljoenen andere mislukte versies van Bruno Mars, zou bespoedigen.

En net als alle andere mislukte versies van Jason Derulo trachtte ik zo snel ik kon mijn stem te klonen.

Totdat ik de servicevoorwaarden zag.

Het bedrijf dat de muziekindustrie wil transformeren, vroeg mij om akkoord te gaan met zijn juridische capaciteit om mijn stem te bezitten. Ee gebruiken voor het trainen van zijn AI-modellen.

Ik zou natuurlijk niet verbaasd moeten zijn. Mijn hele poging om een essay over AI-muziekplatforms te schrijven begon vanuit het ongemak. Aan de ene kant zag ik de mogelijkheden die Suno, net als de meeste AI-tools, mensen met beperkte middelen en talenten in staat stelt om zichzelf te uiten.

Een democratisering van de creativiteit.

Maar aan de andere kant weet ik dat er achter deze AI-tools, net als de meeste technologische diensten, geen onschuldige agenda schuilt. Bedrijven willen dat wij hun slaven worden, dat onze manier van werken, creëren en dromen volledig afhankelijk is van hen.

Het verklaart de obsessie van techbedrijven om toegang (en eigendom) te krijgen van onze meest intieme delen. Er is iets gebeurd, ergens besloten, dat onze gezichten, vingerafdrukken, hartslagen en bloedafdruk van hen zijn. Onze gedachten behoren ook de techbedrijven toe, geregistreerd via wat ooit sociale media werd genoemd (maar in wezen laboratoria voor de slavernij van de 21ste eeuw).

Ons gedrag wordt nu al grotendeels door Big Tech gereguleerd. Shoshana Zuboff noemt dit in haar werk The Age of Surveillance Capitalism (2019) het nieuwe verdienmodel van onze tijd: menselijk gedrag als grondstof. Niet om ons te dienen, maar om ons te voorspellen en te beïnvloeden. En daarmee jou aan andere surveillancekapitalistische roofdieren te duwen, totdat er niets meer van jezelf overblijft.

We bevinden ons in een permanente staat van liminaliteit - tussen hier en daar, tussen het onbekende en het onbekende. Van een wereld waarin we eigenaren en bewoners waren. Naar een wereld waarin we iemands eigendom worden. Onze stem zal, letterlijk en figuurlijk, niet langer van ons zijn. Hetzelfde geldt voor onze gedachte.

Ik schrijf dit wetende dat het voor mij al laat is. Als iemand die deelneemt aan het publieke debat — mijn stem is waarschijnlijk al gekloond zonder mijn toestemming.

Dit is geen paranoia. In lopende rechtszaken in de Verenigde Staten beschuldigen onafhankelijke muzikanten Suno er precies van: het illegaal extraheren en opslaan van stemafdrukken zonder toestemming, in strijd met de Biometric Information Privacy Act. Jouw stemafdruk, zo stellen de aanklagers, is net als een vingerafdruk — en kan niet gereset worden.

Hetzelfde geldt voor alles wat ik de afgelopen jaren via asociale media en de pers heb geschreven. Bedrijven als Anthropic, xAI, Alphabet en Meta hebben ongetwijfeld al een digitale tweeling van mij gebouwd.

Ik kan niet voorzien waar deze dataroof naartoe leidt, zowel voor mij als voor de samenleving. Maar ik ken geen versie van de geschiedenis die mij kan geruststellen. Macht zonder tegenmacht leidt tot autoritarisme.

Daarom worstel ik met het idee om bewust Suno toegang te geven tot mijn biometrische data.

Want als we onze stem bewust weggeven in een poging ons doel te bereiken — in dit geval muziek maken die mensen raakt — in hoeverre was dat doel dan nog van ons?

Ik heb geen antwoord op die vraag. Maar ik wil je uitnodigen om samen na te denken.

Met mijn ontwerp ontwerp ik ruimtes om het ongemak te omarmen en om te zetten in een fundament van onderlinge verbinding. Om te laten zien dat we dit lot delen — en dat het aan ons is dat lot levend te houden.

Voor nu ben ik vooral benieuwd naar het volgende:

Vanuit jouw eigen reis en ervaring: wat staat er eigenlijk op het spel als wij onze biomedische data, zoals stem en vingerafdruk, vrijgeven in ruil voor gemak?

Ik heb in mijn eigen leven gemerkt dat gemak als waarde op de lange termijn tot een dure interventie leidt. We kiezen nu te makkelijk om onze AI-tools in te zetten om het ongemak uit de weg te gaan. Maar de recente academische onderzoeken tonen aan dat wij met het gebruik van AI-tools voor het schrijven luie denkers worden (lees: dom).

Een maatschappij die het ongemak uit de weg gaat, opent de weg om zichzelf weg te cijferen. Omdat zij morgen het vermogen verliest om AI-tools te controleren die haar wetten maken, uitvoeren en controleren.

Kiza
De frictiearchitect