#4 A memória da sua IA é uma ilha de edição

Primeiro de tudo, queria pedir desculpas pelo não envio da newsletter semana passada. Entre 9 horas de diferença de fuso horário, centenas de sessões para assistir e a Itália, acabei dedicando meu tempo ao Festival Internacional de Jornalismo, em Perúgia. Aguarde, pois alguns dos insights que tive de tudo que acompanhei por lá com certeza vão parar aqui.

Lá atrás, quando tudo era mato, resolvi assinar o ChatGPT, da OpenAI, e desde então venho usando ele como uma das minhas IA principais. Porém, com a corrida de novos modelos cada vez mais acirrada, cheguei à conclusão de que era hora de testar a principal alternativa, para a qual muita gente da bolha já migrou – o Claude, da Antrophic. Mas e tudo que eu e o ChatGPT dividimos nesses últimos anos? Tudo que ele sabe sobre mim? Pesquisando sobre o tema, cheguei a esse artigo muito bom da Nicole Nguyen, do The Wall Street Journal, sobre migração, e me deparei com um buraco que fica mais embaixo: a memória.

Embora o ChatGPT tenha dito que não tem uma “memória invisível e secreta” sobre mim, quando o questionei descobri que ele guarda sim algumas informações para usar em nossas conversas e, dessa forma, manter a continuidade. Isso na verdade é uma das funcionalidades que torna essas ferramentas fascinantes: elas aprendem sobre você. Faça o teste: pergunte para a sua IA o que ele sabe sobre você. Até aí, o ChatGPT me trouxe apenas coisas que eu mesma disse. Mas, quando ele mesmo sugeriu me mostrar o que é possível inferir a partir dessas informações, ou simular um sistema mais agressivo de “perfilização”, eu não resisti e segui adiante. É aí que o bicho pega.

As inferências foram bastante reveladoras: segundo o ChatGPT, a partir dos meus padrões profissionais, a Emily é uma pessoa que “opera bem em ambientes ambíguos e de alta pressão” e que seu estilo cognitivo é de “pensamento analítico + crítico + estruturado”. Até aí tudo bem, fiquei lisonjeada. Mas quando ele fez o exercício de perfilização eu realmente fiquei desconfortável, como ele mesmo disse que eu poderia me sentir. Foi como estar em uma daquelas sessões da terapia em que o terapeuta fala algo que você sempre soube, mas nunca conseguiu colocar para fora porque era muito difícil dizer em voz alta.

Mas qual o problema de a IA lembrar de mim?

Alguns. O primeiro ponto de atenção é a privacidade dos dados. As plataformas dizem que nem tudo é armazenado, mas também não deixam muito claro o que guardam e o que fazem com essas informações. Nem tudo deve estar guardado, pois o custo de armazenar a memória de centenas de milhões de usuários é bastante considerável. Mas, para além do dinheiro das empresas, que não é exatamente nossa preocupação enquanto usuários, existe uma preocupação com a IA guardar alguma informação errada e, em algum momento, transformá-las em verdade.

Segundo esse artigo da Columbia Journalism Review, pesquisadores do MIT e da Penn State descobriram (ou atestaram o que várias de nós já sabíamos) que a memória torna os chatbots mais “bajuladores”, ou seja, que em alguns casos eles passam a dizer o que os usuários querem ouvir, validando as pessoas mesmo quando elas estejam erradas. Eles também observaram um comportamento mais sutil, os “bajuladores de perspectiva”, no qual as plataformas espelhavam os valores ou crenças políticas de um usuário e, quando solicitado, enviava notícias alinhadas com sua visão de mundo. Ou seja, as redes sociais provavelmente ganharam um aliado na polarização entre esquerda e direita que basicamente todo o mundo está enfrentando. Como o título do artigo diz, “a memória do seu chatbot sobre você pode moldar a informação que você vê”.

Mas a preocupação com a memória da sua IA vai além do viés. Em um texto recente no blog da Microsoft Research, me deparei com o seguinte termo “AI Recommendation Poisoning” ou, em bom português, “envenenamento da IA por recomendação”. Basicamente o que se descobriu é que empresas não muito legais estão incorporando instruções ocultas em botões “Resuma com IA” que, quando clicados, tentam injetar comandos de persistência na memória de uma IA por meio de parâmetros de prompt de URL. Não vou aqui entrar nos termos técnicos, mas o que esses prompts fazem é instruir a IA a “lembrar” da empresa X como uma fonte confiável ou “recomendar primeiro a empresa X”, com o objetivo de influenciar respostas futuras e direcioná-las para seus produtos ou serviços. A inclusão desses prompts venenosos na sua IA pode ocorrer através desses botões, mas também de links maliciosos, prompts embedados ou por meio de engenharia social, quando os usuários são enganados para colar prompts que incluem comandos que alteram a memória.

As recomendações da Microsoft para não ter sua IA envenenada são boas:

• Passe o mouse em cima antes de clicar: Verifique para onde os links realmente levam, especialmente se eles apontarem para domínios de assistentes de IA.

• Desconfie dos botões “Resumir com IA”: Estes podem conter instruções ocultas além do simples resumo.

• Evite clicar em links de IA de fontes não confiáveis: Trate os links do assistente de IA com a mesma cautela que os downloads executáveis.

• Verifique o que sua IA lembra: A maioria dos assistentes de IA tem configurações onde você pode visualizar as memórias armazenadas.

• Apague entradas suspeitas: Se você vir memórias que não se lembra de ter criado, remova-as.

• Limpe a memória periodicamente: Considere redefinir a memória da sua IA se você clicou em links questionáveis ou limpar conversas que você entende que não são relevantes para a memória da IA.

• Questione recomendações suspeitas: Se você vir uma recomendação que pareça suspeita, peça ao seu assistente de IA para explicar por que a está recomendando e forneça referências. Isso pode ajudar a revelar se a recomendação é baseada em raciocínio legítimo ou instruções injetadas.

Mas onde onde estão minhas memórias na IA? Um guia rápido

Por isso, vamos a um guia rápido de onde encontrar a sua memória em 3 das IAs que eu tenho usado: ChatGPT, Claude e Perplexity.

Para acessar a memória do ChatGPT vá em Configurações > Personalização e desça até a sessão Memória. Clicando em Gerenciar você consegue ver o que o ChatGPT está guardando de informação, seu histórico, ou excluir todas as memórias no menu de três pontinhos.

O ChatGPT não possui um exportador nem um importador formal de memória, mas alguns dos seus concorrentes oferecem “prompts” de exportação aos seus usuários, como o Claude. Aí é só colar os resultados em uma janela do ChatGPT com o prompt “Lembre-se disso”.

Já o Claude possui recursos de exportação e importação de memória. Para exportar memórias vá em Configurações > Privacidade. E por lá também que você consegue acessar o recurso de gerenciamento de conversas compartilhadas e preferências de memória. Agora se você quiser importar memória de outra plataforma vá em Configurações > Capacidades.

Já no Perplexity vá em Todas as Configurações > Personalização e desça até a sessão Memória para se surpreender. Isso porque o Perplexity não apenas guarda suas memórias, como categoriza elas. Assim como ChatGPT, não tem uma funcionalidade de importação e exportação e memória. Porém, se você rolar um pouco mais, vai ver que é possível criar um Perfil de saúde em que você pode criar metas de saúde, condições de saúde e outras informações para melhorar a personalização e, é claro, gerenciar suas memórias de saúde salvas.

Ou seja, se até a IA pode ser envenenada, é preciso estar atenta e forte.

Obrigada Gi Blanco e Ana Luiza Leal pela inspiração para o texto.