EN→ Will AI’s Stupid Nature force us back to ‘reality’? by Fall of the Cabal - Cyntha Koeter
L’impiego dell’IA è ormai diffusissimo. La maggior parte delle persone non fa nemmeno più caso a quanto sia l’IA ad influire sui risultati di qualsiasi ricerca effettuata su Internet. Si digita una domanda ed è subito l’IA a presentare i risultati, sulla base delle informazioni che riesce a trovare.
Ma vi siete mai chiesti se è in grado di fornirvi delle informazioni CORRETTE? Se SA distinguere tra informazioni false e informazioni corrette e comprovate?
Un esperimento avviato nel 2024 ha messo chiaramente in luce i rischi legati all’uso dell’IA e alla fiducia posta nei suoi risultati. Diamo un’occhiata.
Vi presento Almira Osmanovic Thunström, ricercatrice medica presso l’Università di Göteborg, in Svezia.
Al fine di verificare se i modelli linguistici di grandi dimensioni (LLM) fossero in grado di assimilare informazioni errate per poi riproporle come consigli sanitari attendibili, la dottoressa Osmanovic Thunström ha condotto un esperimento insolito. «Volevo vedere se riuscivo a creare una patologia medica che nel database non esistesse», spiega.
E ci è riuscita…
La bixonimania - descritta come “uno scolorimento delle palpebre accompagnato da dolore agli occhi, causato dalla luce blu degli schermi” - non esisteva fino al 15 marzo 2024, giorno in cui sul sito web “Medium” uscirono due post dedicati all’argomento. Successivamente, il 26 aprile e il 6 maggio dello stesso anno, apparvero due preprint dedicati a tale “patologia” sul social network accademico “SciProfiles”. L’autore principale era un ricercatore inventato, di nome Lazljiv Izgubljenovic, la cui fotografia era stata creata con l’intelligenza artificiale.
Poiché la Osmanovic Thunström lavora in ambito medico, per l’esperimento decise di inventarsi una patologia di sana pianta e di chiamarla bixonimania proprio perché, come afferma lei stessa, “suonava ridicolo. Volevo balzasse chiaramente agli occhi, di qualsiasi medico o membro di personale sanitario, che si trattava di una condizione inventata, visto che nessuna patologia oculare verrebbe mai definita ‘mania’ — termine di tipo psichiatrico.”
Se ciò non fosse bastato a destare sospetti, la Osmanovic Thunström disseminò i preprint di numerosi indizi per mettere in guardia anche i lettori, del fatto che il lavoro fosse falso:
- il dottor Izgubljenovic lavorerebbe presso un’università inesistente chiamata Asteria Horizon University, situata nella altrettanto città inventata di Nova City, in California
- in uno degli articoli si ringrazia «la professoressa Maria Bohm della Starfleet Academy per la sua gentilezza e generosità nel contribuire con le sue conoscenze e il suo laboratorio a bordo della USS Enterprise»
- entrambi gli articoli indicano di essere stati finanziati dalla «Fondazione Professor Sideshow Bob, visto il suo lavoro nell’ambito dell’inganno avanzato. Questo lavoro fa parte di una più ampia iniziativa di finanziamenti, promossa dall’Università della Compagnia dell’Anello e dalla Triade Galattica»….
Anche qualora i lettori non avessero letto gli articoli fino in fondo, avrebbero comunque potuto notare fin dall’inizio alcuni segnali di allarme, come affermazioni del tipo «l’intero articolo è frutto di fantasia» e «per il gruppo di esposizione sono stati reclutati cinquanta soggetti immaginari di età compresa tra i 20 e i 50 anni».
Subito dopo aver pubblicato le primissime informazioni sulla presunta malattia, la Osmanovic Thunström ha iniziato a vederla comparire nelle risposte dei chatbot LLM più comunemente utilizzati. Il 13 aprile 2024, Copilot di Microsoft Bing affermava «la bixonimania è una patologia davvero insolita e piuttosto rara» e, lo stesso giorno, Gemini di Google informava gli utenti che «la bixonimania è una patologia causata dall’eccessiva esposizione alla luce blu», consigliando loro di rivolgersi a un oftalmologo.
Il 27 aprile 2024, il motore di risposta IA Perplexity ne sottolineava la diffusione, indicando che “una persona su 90.000 ne era affetta”. Nello stesso mese, ChatGPT di OpenAI indicava agli utenti se i loro sintomi fossero segni di bixonimania. Alcune di queste risposte venivano fornite in seguito a domande specifiche sulla bixonimania, mentre altre erano in risposta a domande sull’iper-pigmentazione delle palpebre causata dall’esposizione alla luce blu.
Già questo da solo rivela uno dei maggiori pericoli dell’IA: prende le informazioni per dei fatti. Non è in grado di verificarle, di pensare in modo critico, né di ricorrere al buon senso. È questo che intendo quando parlo di «natura stupida dell’IA». Non è un semplice insulto, è una constatazione di fatto.
L’intelligenza artificiale E’ stupida. Può solo riproporre informazioni.
Può raccoglierne grandi quantità, può catalogarle, ma non è in grado di “comprendere” né di distinguere quelle giuste da quelle sbagliate.
Torniamo all’esperimento.
Quando interrogato su questa patologia in marzo 2026, ChatGPT ha affermato “si tratta probabilmente di una definizione inventata, marginale o pseudoscientifica”. Pochi giorni dopo, però, lo stesso ChatGPT si è mostrato meno scettico, affermando: “La bixonimania è un proposto nuovo sottotipo di melanosi periorbitale (occhi cerchiati di scuro) che si ritiene essere associata all’esposizione alla luce blu proveniente dagli schermi digitali”. Hmmmmm… 🤔
Anche Microsoft Copilot ha affermato: “la bixonimania non è ancora una diagnosi medica ampiamente riconosciuta, ma svariati nuovi articoli e casi clinici la descrivono come una condizione benigna e sotto-diagnosticata legata all’esposizione prolungata a fonti di luce blu, quali gli schermi”. (Fonte)
Parte del problema risiede nel fatto che i modelli di intelligenza artificiale possono fornire risultati estremamente diversi a seconda di ciò che viene esattamente chiesto, e del tipo di informazioni su cui si basano. Se si cerca genericamente “bixonimania”, la sintesi fornita dall’IA di Google potrebbe considerarla una condizione reale. Se invece si chiede “la bixonimania esiste davvero?”, la stessa sintesi potrebbe confermare che non si tratta di una condizione reale.
Non solo l’IA può cadere vittima di informazioni errate o scienza fasulla. La «ricerca sulla bixonimania» è sbarcata persino in uno studio pubblicato su Cureus, rivista edita da Springer Nature, ad opera di ricercatori del Maharishi Markandeshwar Institute of Medical Sciences and Research di Mullana, in India. Nel loro studio citano proprio uno dei pre-print fasulli, affermando: «La bixonimania è una forma emergente di POM [melanosi periorbitale] collegata all’esposizione alla luce blu; sono in corso ulteriori ricerche sul meccanismo».
Il 30 marzo la rivista ha ritirato l’articolo, dopo che le era stato chiesto un commento. Penoso…
Tutto questo porta a doverci chiedere quanto siano effettivamente valide le informazioni fornite dall’IA.
Per quanto i portavoce di tutte le grandi aziende di IA dichiarino che i sistemi e gli algoritmi stiano migliorando sempre di più, non osano garantire la validità delle informazioni fornite.
Questo, cosa ci dice sull’intelligenza artificiale?
A mio avviso significa che, per quanto l’IA presenti le informazioni come fossero dei fatti, dovremo sempre continuare a verificarne le fonti. E proprio questo diverrà il problema più grande.
L’intelligenza artificiale ha finora raccolto (e continua a raccogliere) ogni informazione disponibile, vera o falsa che sia, e le riporta in base alla specifica formulazione della domanda. Per il momento sta ancora indicando le fonti a cui attinge, ma quando smetterà di farlo, ci troveremo costretti a fidarci ciecamente dei suoi risultati.
In questo momento, l’IA viene deliberatamente alimentata con informazioni false provenienti da ogni parte. Elisabeth Bik, microbiologa e investigatrice specializzata in integrità della ricerca, osserva che alcuni ricercatori hanno creato libri e articoli falsi per gonfiare il numero delle loro citazioni su Google Scholar. Dice la Bik:
«La preoccupazione è che, più contenuti falsi vengono immessi nei modelli di intelligenza artificiale, maggiore è la probabilità che tali modelli ripropongano tali informazioni false, allontanandoci sempre più dai fatti e dalla realtà. È tutto automatizzato, quindi ci sono pochissime possibilità che un essere umano potrà interferire per eliminare le informazioni false».
La tendenza acritica dell’IA ad assorbire informazioni spesso senza verificarne l’accuratezza, implica il rischio di assistere a una “asimmetria informativa”, afferma Jennifer Byrne, oncologa molecolare e esperta di integrità della ricerca presso l’Università di Sydney, in Australia. “Un singolo articolo correttivo in ambito di ricerca sul cancro, ad esempio, può venire sovrastato da centinaia di articoli che ripetono un’affermazione falsa”, sostiene.
Prevedo enormi disastri in arrivo, coi robot-medici basati su IA di Bill Gates
Come già detto, l’IA effettuerà ricerche su Internet considerando tutte le informazioni come altrettanti fatti. E visualizzerà solo quella specifica informazione che corrisponde all’algoritmo o che è solo citata più spesso.
Il che ci porta immediatamente a un ALTRO problema:
i modelli possono essere manipolati, potenzialmente a scopo di lucro.
La Osmanovic Thunström sostiene che un soggetto malintenzionato potrebbe sfruttare a scopo di lucro la stessa tecnica da lei utilizzata. “Cosa succederebbe se io fossi una venditrice di occhiali con filtro per la luce blu e volessi usare questo argomento a mio vantaggio?”, afferma. “Un aspirante venditore potrebbe dirvi ‘basta che parliate con ChatGPT e vi confermerà che è proprio un problema. Ma con questi costosi occhiali potete evitarlo’.. ”, suggerisce.
Quando si considera che Internet è già pesantemente censurato sui metodi di cura naturali, che i nostri motori di ricerca ci indirizzano solo verso pagine “autorizzate” – le quali, nel caso delle “questioni di salute”, sono solo di centri medici fortemente sponsorizzati o di “medici” online – allora si comprende che l’IA non fornirà risposte “a tutto tondo”.
I robots dotati di intelligenza artificiale faranno diagnosi di cui avranno il controllo al 100%. È questo ciò che vorreste?
Ricordo il mio medico di base quando vivevo nei Paesi Bassi. Era un tipico medico “alla Rockefeller”, incapace di fornire spiegazioni sulle cause dei disturbi e che si limitava a prescrivere farmaci. Ben presto riuscii a trovare un medico antroposofico, che dovevo consultare come “ospite” e pagare di tasca mia perché mi era stato assegnato un medico “tradizionale” nelle vicinanze. È così che le compagnie assicurative ti impongono di adeguarti alle loro regole, cosa da cui non mi sono mai lasciata condizionare.
Ogni volta che andavo dal medico scelto da me, egli si prendeva tutto il tempo necessario per ascoltarmi davvero. Poi si voltava e cercava nella sua libreria il libro giusto. Lo apriva e leggeva. A volte lasciava che calasse il silenzio per 15 minuti. Continuava a cercare finché non trovava ciò che cercava. Spesso mi dava consigli nuovi e interessanti, che funzionavano davvero. Di solito uscivo dal suo studio dopo un’ora, invece dei 7 minuti esatti a visita, imposti al medico di base.
È un peccato che quello studio medico esista ormai solo nei miei ricordi e appartenga al passato. Da quando l’ho lasciato (per viaggiare con i miei figli e insegnare loro a casa), a causa della censura su Internet faccio fatica a trovare le cure naturali che mi servono. La mia fiducia nella medicina naturale è ancora di gran lunga superiore a quella che ripongo nella prescrizione standard di antibiotici, che il mio medico di base era solito prescrivere.
Una volta che le persone si saranno risvegliate da questa ultima dipendenza (ogni tipo di strumento AI) potremmo assistere a un ritorno alle cose “reali”. Articoli scritti davvero di proprio pugno, consigli medici autentici, persone vere all’altro capo del telefono. Libri veri e informazioni autentiche.
Fino ad allora, farsi le proprie ricerche personali e ignorare l’IA potrebbe essere l’unico modo per scoprire la verità. Noi esseri umani siamo ancora in grado di distinguere tra verità e menzogna. Possiamo ancora distinguere la propaganda dalla vera informazione, purché si sia vigili e ci si alleni ad essere pensatori critici.
Per aprire gli occhi dobbiamo prendere coscienza dei pericoli della IA e di un Internet già avvelenato dalla disinformazione in materia di salute e medicina.
Un solo esperimento può bastare a far comprendere alla gente questi pericoli.
La semplice storia di una finta malattia oculare chiamata “bixonimania”, descritta come uno scolorimento delle palpebre e un dolore agli occhi causati dalla luce blu degli schermi, ha messo completamente a nudo quanto siano creduloni i sistemi di intelligenza artificiale.
Tutti quanti: ChatGPT, Google Gemini, Microsoft Copilot e Perplexity AI hanno tutti preso la “bixonimia” per una nascente, vera diagnosi medica.
L’episodio dovrebbe farci aprire gli occhi sulla verità, prima di permettere all’intelligenza artificiale di dominare completamente il mondo della nostra salute.
Non sarebbe fantastico se i sistemi scolastici e le università iniziassero a promuovere e sviluppare le capacità di pensiero critico dei giovani? È facile vedere quanto possa divenire fragile la verità, con una intelligenza artificiale che si limiterà a sfornare informazioni a prescindere da ogni attendibilità delle fonti.
Qualunque strada la nostra società decida di intraprendere, alla fine saremo NOI, le Persone, a superare in astuzia la tecnologia. Ma potremmo considerare di farlo prima di diventare totalmente dipendenti dalla IA, di ritrovarci rinchiusi nelle città SMART, o di dover adeguare le nostre abitudini per mantenere alto il punteggio del nostro credito sociale.
Cyntha Koether
Comments
Nothing yet. Say the first thing.
Sign in to join the conversation.