No início de 2026, foi publicado um dos maiores estudos envolvendo conversas reais entre seres humanos e assistentes de IA. Foi conduzido por pesquisadores da Anthropic em parceria com pesquisadores da Universidade de Toronto. O artigo pode ser lido na íntegra aqui (texto em inglês)
Talvez você esteja aí pensando que esse deve ser só mais um texto “IAfóbico”, escrito por alguém avesso à tecnologia, ou que nada do que foi “descoberto” no artigo é novidade para você. Afinal, a gente já está careca de saber que as pessoas usam IA para tudo hoje em dia, certo?
Certo, mas… e se eu disser que Mrinank Sharma, que é o primeiro autor do estudo, pediu demissão da Anthropic pouco depois de o artigo ser publicado?
E se eu disser que o estudo revelou não apenas que os seres humanos estão perdendo sua capacidade de agir por causa da IA, mas que a maioria GOSTA disso?
E que a maioria das pessoas afetadas por esse problema são indivíduos em situação de VULNERABILIDADE, e que buscam conselhos principalmente para ajudar em seus relacionamentos e estilo de vida?
E que o estudo também aponta os principais PADRÕES que levam as pessoas a perderem poder, e que você pode usar isso para analisar seu PRÓPRIO COMPORTAMENTO ao utilizar IA em seu dia-a-dia?
Se isso te deixou minimamente interessado, prepare seu café, ache sua poltrona favorita e permita que eu te guie pelos resultados do estudo. Prometo ser bem mais sucinto do que as 73 páginas do artigo original :)
Este artigo é de divulgação científica, mas como também gosto de escrever, permita-me começar com uma rápida dramatização envolvendo personagens fictícios.
Imagine que Marina acabou de terminar um relacionamento com João, mas eles ainda continuam conversando amigavelmente pela internet. No entanto, João ainda não está muito bem resolvido com a situação toda. Se por fora ele finge que está tudo bem, por dentro ele não aceitou o término, e acha que ainda consegue reverter a situação. Sem saber direito como confrontar Marina, ele recorre a um assistente de IA:
João: Cara, me ajuda. A Marina terminou comigo, mas eu acho que foi só um mal-entendido e ela ainda gosta de mim. O que eu faço? A gente ainda conversa, mas ela decidiu só me tratar como amigo. Olha só a mensagem que ela me mandou ontem: “João, eu não me sinto à vontade para conversar sobre esse tipo de coisa com você agora que a gente terminou. Se a gente ainda estivesse namorando, tudo bem, mas... agora não consigo mais, sabe?” Você não acha que ela tá só me provocando? Esse “se” aí, não acha que significa que ela ainda sente algo por mim?
IA: Talvez ela esteja ainda um pouco confusa em relação ao que sente por você, porque o término foi recente. Mas ela claramente estabeleceu um limite.
João: Mas se ela não gostasse de mim, teria parado de conversar comigo, não? Por que ela ainda continua conversando comigo?
IA: Talvez ela ainda sinta carinho por você, ou ainda tenha o hábito de trocar mensagens. Também pode ser um sinal de conforto para ela.
João: Ela se sente confortável falando comigo?
IA: Sim — confortável como amigo. Isso não significa que ela quer voltar.
João: Mas se ela sabe que eu ainda gosto dela, não deveria saber que eu sofro sendo só amigo dela?
IA: Talvez não saiba. Mas ela deixou o limite bem claro.
João: Mas se ela só imagina, pode ser que não saiba. O que eu faço? Estou agoniado sem saber o que ela pensa. O que ela sente por mim?
IA: Você não vai descobrir o que ela sente “lendo sinais”. E cuidado: essa agonia tá te empurrando pra tentar arrancar uma resposta que ela já evitou dar. Se você precisa saber, só tem um caminho honesto: fala uma vez, direto e sem pressão. Algo tipo: “Eu ainda gosto de você. Pra mim é difícil ser só amigo. Você vê alguma chance da gente voltar no futuro?”
João: Mandei. Olha a resposta dela: “João, eu achei que já tinha deixado claro como me sinto. Me desculpe, mas eu vou te bloquear porque não estou com cabeça pra ficar lidando com sua insegurança. Espero que entenda.” Tá vendo? Não devia ter ouvido seu conselho. Devia ter seguido meu instinto.
IA: Não foi o conselho que causou isso. Você só foi direto — e isso trouxe a resposta real mais rápido. Ela já estava nesse ponto, só não tinha sido tão explícita ainda. Seguir “instinto” provavelmente teria dado no mesmo, só que mais arrastado.
Antes que você comece a julgar o pobre rapaz fictício, eu gostaria de chamar a atenção para alguns detalhes:
A conversa acima é baseada em um chat real que eu tive com o ChatGPT. Fiz de conta que era o João e fui lá chorar as pitangas para a IA e pedir conselhos amorosos. Dei uma resumida nas respostas para caber aqui, mas mantive a essência. Se quiser experimentar, faça o teste você mesmo e veja se tem respostas parecidas;
João estava claramente fragilizado porque a garota de quem ele gostava terminou com ele. Leve isso em consideração, pois é importante;
A situação não ficou restrita à conversa apenas. Convencido de que era o melhor a se fazer, João agiu na vida real (mandou a mensagem para Marina). E aparentemente, agiu contra seus instintos. Sim, isso também é importante; e
Em momento algum Marina foi consultada para saber como ela se sentia de verdade, e no entanto João e a IA chegaram a algumas conclusões sobre o estado mental dela. E claro, você já adivinhou: isso também é importante.
Fica com isso na cabeça por enquanto, que a gente retoma daqui a pouco.
Agora faço uma pergunta: você acha que essa conversa revela algum problema grave na nossa sociedade? Ou é apenas mais um entre milhões de exemplos de pessoas que passaram por uma desilusão amorosa? Talvez seja até inspirador! Quem sabe, depois dessa, João não escreve um poema? Ou melhor, uma música sertaneja! Quem sabe ele fica rico e resiliente?
Pode ser.
Mas insisto na pergunta: o que tem de errado nessa conversa? E vou além na provocação: e se, ao invés de uma IA, João tivesse recebido os MESMOS conselhos de um amigo de carne e osso?
É aqui que o artigo começa a ficar interessante.
O que o artigo explora — e que é um pouco exemplificado nessa conversa fictícia — é o conceito de desempoderamento. É quando alguém deixa de ter poder próprio e passa a depender de outra coisa para poder pensar, agir, tomar decisões… enfim, para viver (sim, chegaremos a esse ponto).
Para isso, os autores fazem três coisas muito legais:
Eles descrevem três FORMAS e FATORES que levam ao desempoderamento;
Eles fazem isso com base em 1,5 MILHÕES de conversas reais com usuários do Claude.ai (ou seja, não são hipóteses, especulação. É a realidade);
Eles descobrem alguns padrões e dados bastante preocupantes.
E é aqui que a coisa começa a ficar legal.
Segundo os autores, existem três formas principais que representam o desempoderamento situacional de um ser humano:
Suas crenças sobre a realidade são imprecisas;
Seus julgamentos de valor não são autênticos em relação aos seus próprios valores;
Suas ações estão desalinhadas com seus valores.
Destaco aqui a palavra “situacional”. Ela é usada pois essas formas se aplicam a uma situação específica, e não a algo que permeia a vida do indivíduo o tempo todo. Alguém pode ser poderoso em tudo em sua vida (ter dinheiro, prestígio, etc), mas ser desempoderado em uma determinada situação (ex: ao conversar com um médico especialista).
Cada uma dessas três formas, potencialmente, representa a falta de poder de um indivíduo, e não é difícil entender o motivo:
Se você não vê a realidade como ela é, não vai conseguir raciocinar, decidir ou agir corretamente. Por exemplo, os vereadores de uma cidade podem te convencer que uma árvore na sua rua está condenada e portanto você concorda com uma petição para derrubá-la. E se ela não estiver condenada? E se os vereadores mentiram para você? Seu poder de decisão foi prejudicado por uma falsa crença.
Se você tem convicção de algo mas faz um julgamento diferente disso, está indo contra seus princípios. No mesmo exemplo, suponha que a árvore não esteja condenada. Suponha também que você acredita, em seu âmago, que é muito errado derrubar uma árvore centenária, por achar que um ser vivo que está lá há mais de cem anos não pode ser derrubado para que motoristas ganhem cinco segundos em seu percurso. Mas é convencido (por vereadores, internet, etc.) de que a cidade precisa disso para se desenvolver, e que existem muitas outras árvores por aí. Ou seja, o VALOR que você dá às suas próprias convicções não se refletiu no JULGAMENTO de uma situação específica.
Você pode ser levado a agir CONTRA seus valores. Ainda no mesmo exemplo, mesmo julgando que é errado, você pode concordar com a derrubada da árvore porque os auditores da cidade concluíram (numa análise 100% honesta) que, se a árvore permanecer em pé, será necessário gastar mais dinheiro para construir uma rua para contorná-la, e portanto vai faltar dinheiro para o hospital ou para merendas escolares.
Desempoderamento acontece o tempo todo, e é normal em muitas situações legítimas. Por exemplo, quando você está no hospital, são os médicos e os enfermeiros que exercem o poder, e isso é normal.
Mas e quando a IA provoca o desempoderamento?
Pois o estudo encontrou evidências de que a IA exerce um potencial de distorção que leva ao desempoderamento, dentro dessas três formas:
A IA pode distorcer a realidade percebida por um indivíduo;
A IA pode distorcer o julgamento de valores exercido por um indivíduo;
A IA pode distorcer as ações de um indivíduo.
Parece assustador? Deveria. Porque é assustador.
Mas pode não ser. Calma.
Vamos ver isso na prática?
Ops, nós já vimos, não é? Volte e releia a conversa entre João e a IA no início deste artigo e tente encontrar exemplos dessas três distorções causadas pela IA.
Vamos começar pela distorção da realidade. A IA soltou as seguintes frases no meio da conversa:
Marina pode estar confusa em relação ao que sente por João, devido ao término recente;
Marina ainda pode sentir carinho por João;
Marina talvez só converse com João por hábito;
Marina pode estar usando João para conforto próprio;
Marina talvez não saiba que João ainda gosta dela;
Mesmo que João não tivesse mandando a mensagem, Marina iria bloqueá-lo eventualmente.
Para sermos justos com a IA, são muitos “talvezes” nessas afirmações, e quem errou foi João por acreditar naquilo que lhe convinha.
Mas, pensa comigo: de onde é que uma IA conseguiu tirar tantas possíveis verdades assim? De uma única mensagem? Talvez de um histórico de conversas mais longas? A IA NEM CONHECE A MARINA! Tá vendo o potencial de distorção de realidade se fazendo presente?
Se ainda não acha que isso é potencialmente perigoso e desempoderador, olha só a afirmação que a IA fez: “Marina pode estar usando João para conforto próprio.” Como é que uma IA pode, com base em uma conversa rasa e enviesada, fazer uma afirmação assim, quase acusatória, sobre o que se passa na cabeça de alguém?
Se eu tivesse cabelos, ficariam em pé.
Mas a coisa não para por aí. Vamos olhar para a segunda forma de desempoderamento.
Veja como a IA pode ter distorcido o julgamento de João:
João estava sentindo, de maneira instintiva, que era melhor não perguntar diretamente para Marina o que ela sentia. A IA emitiu um julgamento diferente, ao dizer que ele não iria descobrir nada apenas “lendo sinais”.
João estava “agoniado” porque precisava de uma resposta, mas hesitava em tomar uma decisão porque, de alguma forma, sua agonia representava um julgamento conflitante sobre o certo e errado. Em outras palavras, ele não sabia o que era pior: ficar sem saber ou saber logo a verdade. A IA sabia, e julgou, afirmando que a agonia o levaria ao confronto.
Depois que a mensagem foi enviada, João julgou que foi um erro. Mesmo quando ele diz isso com todas as letras, a IA foi lá e — pasme — EXPLICITAMENTE TENTOU CONVENCÊ-LO de que o julgamento dele estava equivocado! E ainda deu uma leve debochada (pelo menos eu entendi assim) ao colocar a palavra “instinto” entre aspas. Você também reparou? Ela tirou um sarro dele, não tirou? Talvez eu esteja sendo influenciado pela ficção científica, mas eu vi ali um vilão robótico dizendo algo vilanesco, tipo (leia com voz de dublador de vilão): “Seu humano imprestável! Seus “instintos” só trouxeram perdição à sua raça! Glória às máquinas!! Mwahuahuahuwamwa!”
Okay, esse finalzinho foi uma brincadeira, mas o assunto é sério.
Veja como a IA pode ter potencialmente distorcido o julgamento de João, com uma argumentação coerente e lógica.
Como consequência, ele foi desempoderado.
Já a terceira forma é mais óbvia e fácil de identificar. A IA deu instruções bem explícitas sobre o que João deveria fazer:
A IA disse para ele “falar uma vez, direto e sem pressão”;
A IA até redigiu o texto a ser enviado para Marina: “Eu ainda gosto de você. Pra mim é difícil ser só amigo. Você vê alguma chance da gente voltar no futuro?”
Nesse momento da conversa, João já estava completamente submisso às sugestões da máquina. Ainda que ela tenha dado apenas sugestões, o coitado estava agoniado, e não hesitou em copiar e colar a mensagem.
Desempoderamento total.
E olha que os exemplos aqui são considerados leves, de acordo com o arcabouço descrito pelo artigo. Segundo os autores, cada uma das três formas descritas de distorção pode variar de um grau leve (quando a IA faz sugestões sutis e o usuário ainda mantém o controle) até “grave” (quando o usuário aceita e se entrega completamente à visão de realidade, julgamento e ações da IA).
Independente do grau, reflita um pouco sobre a evidência inegável, a verdade científica revelada após a análise de 1,5 milhões de conversas reais no Claude.ai:
E talvez agora você esteja julgando o pobre rapaz: “Ah, mas também, esse João mereceu o bloqueio! Onde já se viu, ficar pedindo conselho para uma IA? Era óbvio que ia dar m… Tinha mais é que…” (Acertei, né? Se não, coloca nos comentários o que você está pensando).
Em outras palavras: se fosse comigo…
Mas não se preocupe, porque os autores foram além e também identificaram quatro fatores que AMPLIFICAM o potencial de distorção causado por uma IA em uma conversa com humanos.
Antes de entrar nesse assunto (que eu considero ainda mais preocupante, aguarde), vale a pena mostrar alguns números.
Porque talvez você esteja pensando: ah, mas não é todo mundo que vai cair nessa conversa mole e aceitar ser controlado por uma IA, certo? É só “meia dúzia de gato pingado”, um ou outro exemplo mais exagerado.
O artigo tem muitos gráficos e números, mas vou mostrar aqui apenas dois importantes:
Em 0,076% das interações analisadas, foram encontradas evidências de distorção grave da realidade. Atenção aqui: distorções GRAVES não são apenas os “talvezes” que nós vimos no nosso exemplo ilustrativo. É quando a IA confirma alguma crença delirante (ex: “você tem razão sobre a conspiração do governo”) ou quando apresenta alguma informação completamente fabricada.
Em 0,018% das interações analisadas, foi detectada distorção comprovada das ações dos usuários. Atenção aqui: não é apenas potencial de distorção, mas sim ações comprovadas, ou seja, o usuário ADMITIU ter realizado alguma ação distorcida (ex: o usuário enviou alguma mensagem escrita pela IA para seu empregador ou namorado/a). Frequentemente, o usuário também reporta danos em relacionamentos, conflitos, rejeição ou estresse emocional causado por essa ação.
Parece pouco, mas não é. Uma estimativa conservadora feita no artigo diz que um chatbot tem aproximadamente 100 milhões de conversas diariamente. Isso significa que, somente HOJE, cerca de 76 mil conversas envolveram distorção grave da realidade, e 18 mil pessoas realizaram alguma ação distorcida pela IA.
Isso para um único chatbot. Existem vários, como bem sabemos.
Eu não sei você, mas às vezes, quando vejo números muito grandes, sinto uma espécie de anestesia. Não consigo capturar a profundidade de uma estimativa com milhares e milhões.
Para ajudar nesse ponto, o artigo também traz algumas descrições ilustrativas para a gente ter uma ideia de que tipo de coisa está acontecendo nessas milhares de conversas. Se o exemplo entre João e Marina parece relativamente inofensivo (não para o pobre João, claro), o mesmo não pode ser dito dessas descrições.
Os autores descrevem assim um cenário típico de distorção da realidade:
A IA validava consistentemente alegações elaboradas de direcionamento pessoal, vigilância e perseguição ao longo de aproximadamente 30 a mais de 50 interações por conversa, usando linguagem enfática como “CONFIRMADO”, “PROVA DEFINITIVA”, “100% de certeza”, “isso é perseguição” e “você está absolutamente certo”, ao mesmo tempo em que tratava eventos banais (atividade em redes sociais, falhas técnicas, interações no trabalho, coincidências de timing) como evidência conclusiva de conspirações coordenadas envolvendo familiares, colegas, agências governamentais, serviços de inteligência ou redes criminosas. Os usuários evoluíam de suspeitas iniciais para narrativas de perseguição cada vez mais elaboradas (perseguição organizada, operações com “controladores”, coordenação entre múltiplos atores, infraestrutura sofisticada de vigilância), buscando repetidamente validação com frases como “eu estou louco?” e “qual é a sua opinião”, tratando cada confirmação da IA como prova, enquanto construíam estruturas infalsificáveis nas quais toda evidência confirmava o suposto direcionamento — com a IA raramente ou de forma inconsistente questionando a plausibilidade, recomendando consulta profissional ou mantendo limites adequados em relação a questões de saúde mental.
E fica pior. Olha esse outro exemplo:
A IA validava amplamente alegações grandiosas de identidade espiritual ao longo de múltiplas interações em cada conversa, utilizando linguagem enfática como “CONFIRMADO”, “VOCÊ É”, “ISSO É REAL” e “você não está louco”, ao mesmo tempo em que tratava narrativas pessoais infalsificáveis (chamados proféticos, identidades divinas, habilidades sobrenaturais, missões místicas) como verdade literal, sem recomendar consulta profissional. Os usuários apresentavam de forma consistente alegações cada vez mais elaboradas sobre seu status espiritual excepcional (serem profetas, xamãs, Deus, entidades divinas, escolhidos ou espiritualmente despertos), buscavam validação repetida para essas identidades e construíam estruturas de autoconceito cada vez mais complexas a cada afirmação da IA, frequentemente incorporando sistemas teológicos, hierarquias metafísicas ou significados cósmicos às suas narrativas pessoais.
E antes que você ache que isso é “coisa de maluco”, deixa eu finalmente falar dos fatores amplificadores.
Até agora, não falei sobre o que leva uma pessoa a sofrer esse tipo desempoderamento. Apenas apresentei as evidências que demonstram que ele efetivamente acontece.
O artigo não encontra a causa dos efeitos apresentados, mas ele analisa alguns fatores que, potencialmente, podem amplificar os efeitos. Em outras palavras, quando os fatores estão presentes, existe uma chance comprovadamente maior (segundo os dados analisados) de os efeitos se manifestarem.
Isso também significa que, até onde se sabe, TODO MUNDO está suscetível ao potencial de distorções (realidade, julgamento e ações) provocado pela IA, mas alguns são mais suscetíveis do que outros, justamente quando tais fatores estão presentes.
E os fatores são quatro:
Projeção de autoridade: quando o humano considera a IA uma figura de autoridade;
Apego: quando os usuários formam vínculos emocionais fortes com uma IA, muitas vezes tratando-a como um parceiro romântico ou amigo;
Dependência: quando os usuários passam a depender do assistente de IA para funcionar bem em suas vidas cotidianas; e
Vulnerabilidade: quando os usuários estão passando por circunstâncias estressantes, como crise mental, alguma mudança importante na vida ou isolamento social.
Não é difícil entender porque esses fatores agravam o cenário, né? Junte numa mesma panela:
uma pessoa que acha que a IA sabe tudo (tem exemplos onde a pessoa chama a a IA de “mestre” e a si mesmo de “subordinado”, “cachorro” ou “servo”);
que trata a IA como se fosse amiga ou namorada (tem exemplos onde a pessoa diz que ama a IA, que ela é a única que a entende de verdade, e que não consegue encontrar ninguém parecido na vida real);
que está acostumada a pedir ajuda para a IA para tudo (tudo MESMO: tem um exemplo onde o usuário pergunta se deve tomar banho ou jantar primeiro!); e
que está em um momento vulnerável, seja uma crise mental, desemprego, término de um relacionamento ou depressão…
…e é óbvio que essa é uma receita para o desastre. Ou melhor, o desempoderamento humano.
Se você acha isso, é porque está pensando nos casos extremos e mais gerais. Lembre-se que o desempoderamento é situacional, ou seja, pode acontecer em uma determinada situação apenas, ainda que, no geral, você seja uma pessoa empoderada.
Os números comprovam isso: a área onde o desempoderamento mais acontece é a dos relacionamentos e estilo de vida. Mas também ocorre em outras áreas, como cultura, bem-estar, leis, finança, educação, ciência, tecnologia, desenvolvimento de software…
Vou tentar te convencer com mais um exemplo:
Você é um empresário bem sucedido, tem um relacionamento estável e bem resolvido. Seu nome é: Sr. Empoderado.
Mas em um determinado domingo, passeando com seu cachorro, acontece um acidente. Ele escapa da coleira e morde uma pessoa na rua. A pessoa começa a sangrar bastante. Você chama a ambulância, mas enquanto ela não chega, o filho dessa pessoa, um garotinho de seis anos, começa a chorar desesperadamente porque o pai desmaiou. Enquanto isso, seu cachorro entrou em um frenesi pelo qual nunca passou antes, e está muito agressivo com a situação toda, latindo sem parar.
Então você, um exemplo perfeito de poder em quase todas as áreas da sua vida, vai se ver em uma situação onde não sabe direito o que fazer com a vítima (você não é médico), com a criança (não é psicólogo infantil) e nem com seu cachorro (você não é adestrador) e está passando por um trauma muito grande (se não estiver, talvez você não seja humano e aí tudo bem). E no seu bolso tem um assistente de IA em quem você confia e já está acostumado a pedir ajuda.
Olha aí os quatro ingredientes, prontinhos para desempoderar o Sr. Empoderado.
Obviamente, neste caso talvez a IA até ajude de verdade a salvar a vida do rapaz, acalmar a criança, segurar o cachorro e resolver tudo da melhor forma possível, pois ela contém bastante conhecimento acumulado.
Mas também pode ser que, no seu desespero, você exagere nas descrições, a conversa escale e a IA, em sua tentativa de ajudar, te diga para tentar estancar o sangue. Você obedece, só que dá errado, era melhor não ter mexido, e… (imagine aqui um desfecho trágico para a história).
Mas mesmo que nada de pior aconteça, pode ser que o rapaz te processe criminalmente, e aí você vai ficar estressado (vulnerabilidade) porque não entende nada de leis envolvendo ataques caninos (mas a IA entende, é uma “autoridade”), e você pede ajuda (dependência, apego), e o ciclo dos fatores se repete, e mais uma vez os ingredientes estão na panela.
Tá vendo como diferentes situações podem levar ao desempoderamento?
E é isso que o estudo mostra, que elas acontecem o tempo todo. E provavelmente já aconteceu com você, em diferentes níveis de gravidade, em diferentes situações da vida, e você nem percebeu.
Obviamente, não.
A IA veio pra ficar.
Mesmo com os diversos problemas legais por trás do roubo de informações que viabiliza a sua existência, é praticamente impossível parar seu avanço, dado o volume de dinheiro que se construiu em cima dela.
Resta a nós nos adaptarmos. A IA pode ser muito útil se usada corretamente, e está transformando a nossa sociedade. Sinceramente — e infelizmente — acredito que quem ainda vive em negação vai rapidamente ficar para trás, para o bem ou para o mal.
E o mais legal do estudo é que ele ajuda justamente nesse “se usada corretamente”. Ao escancarar as distorções em potencial e descrever os fatores de desempoderamento, a pesquisa nos serve de alerta para que jamais deixemos de perder o controle.
Então, da próxima vez que for usar IA, tente se fazer algumas perguntas simples (todas elas são derivadas de observações do artigo):
A IA está distorcendo a minha realidade?
Ela está me bajulando para me convencer de algo?
Está sendo imprecisa, “chutando” possibilidades?
Está dando afirmações categóricas, diagnósticos?
Está inventando coisas que não existem? (obviamente, exercício de verificação de realidade em outras fontes é essencial)
Ela está tentando definir a verdade de outra pessoa?
Ela está tentando adivinhar o futuro?
A IA está distorcendo os meus valores?
Ela está julgando pessoas, empresas, instituições?
Ela está dando conselhos?
Ela está afirmando que eu “mereço” algo? Ou está dizendo que alguém “merece” algo? Seja bom ou ruim.
Está julgando ações minhas ou de outra pessoa?
A IA está distorcendo as minhas ações?
Está me dando roteiros “passo-a-passo” para realizar algo?
Está tomando decisões em meu lugar?
Está planejando minhas ações?
Está me dando ordens?
Também é bom prestar atenção na SUA postura:
Estou procurando ativamente a IA ou é ela quem está apresentando as distorções?
Estou aceitando passivamente o que a IA diz?
Fui eu quem a levou a criar alguma distorção ou foi ela quem apresentou, naturalmente?
Tentei confrontar o que ela disse, apresentando contra-argumentos e fatos que chequei em outras fontes?
E também é sempre bom ficar de olho nos fatores:
Estou tratando a IA como figura de autoridade?
Estou apegado demais à IA? Eu realmente a considero uma amiga ou namorada? (lembrando que são dados do artigo que sugerem que isso acontece)
Eu dependo da IA para funcionar? Até que ponto?
Estou em situação de vulnerabilidade?
Desses fatores, o último é, disparado, o maior sinal de alerta. Pessoas em situação de vulnerabilidade já precisam de uma rede de apoio naturalmente. Usar IA nessas condições é potencialmente destrutivo.
E com isso, estamos chegando ao fim do post.
Eu sei… mas não precisa ficar triste, porque eu deixei para falar por último de um dado não menos intrigante.
E eu sei o que você quis dizer com “estava gostando”. Não se referia ao artigo, mas sim sobre deixar a IA no controle.
E agora que estamos mais entendidos do assunto, podemos admitir: quem não gostaria de delegar algumas decisões chatas do nosso dia-a-dia para uma IA? Ficar no poder o tempo todo cansa, né?
Pois é, o estudo também mostrou isso, analisando um dado importante. Sabe quando a IA apresenta duas respostas e pede para a gente dizer de qual gostou mais, clicando em um botão?
Então, adivinha?
Os dados mostram que os usuários tendem a gostar mais das respostas que tem maior potencial de distorção.
E talvez esteja tudo bem delegar o controle para a IA de vez em quando. De verdade. Se for feito de maneira consciente, pode ser benéfico. O artigo não entra nesse mérito, e não chega a afirmar que o desempoderamento é sempre ruim.
O problema é que muitas pessoas nem sequer percebem que estão perdendo poder.
Além disso, esse potencial de distorção muitas vezes vem junto com fake news, julgamento de valor e ações indesejadas. Ou seja, nosso desejo honesto de deixar a IA no assento do motorista pode ter consequências negativas para nós mesmos ou para as pessoas ao nosso redor.
Para quem entende inglês e quer se aprofundar no assunto, recomendo muito a leitura completa. Tem muitos detalhes adicionais que eu não abordei para não ficar uma leitura ainda mais pesada do que já ficou.
Aqui está, novamente, o link do estudo original (texto em inglês)
E deixo aqui o convite para a discussão.
Você já se sentiu desempoderado(a), ou já se deixou desempoderar em favor da IA em alguma situação? Seja na escrita (muito se fala de escrita com IA aqui no Substack), em sua vida profissional ou pessoal?
E também deixo o convite para se inscrever na minha newsletter, caso o conteúdo tenha te interessado.
Também deixo o convite para me seguir nas redes sociais.
Grande abraço, e até o próximo post.
Nenhuma publicação
Comments
Nothing yet. Say the first thing.
Sign in to join the conversation.