Viramos babás de IA

Repare em como se fala de IA. O sistema aprende, é treinado, tem memória. Quando erra, inventou (alucinou); quando não faz o que pedimos, desobedeceu. Vem em gerações. Fica num sandbox (o cercadinho) ou é protegido com guardrails (a grade do berço), sob supervisão humana contínua.

Junte tudo: uma criança no cercado, com grade na cama, vigiada por um adulto que fica cuidando. Ou seja, tem uma babá.

A babá tem algumas características: presta atenção o tempo todo (mas não é dona do bebê), é invisível e não é reconhecida quando nada dá errado com a criança, é culpada quando dá errado (”você não estava olhando?”), e pra piorar geralmente ganha mal.

A IA também tem babás agora com características similares: cuidamos do sistema de IA conferindo tudo (ou quase tudo) que é feito, não são donas da IA, levam a culpa se não conferiu certo e geralmente tem salário baixo também.

Mas há alguns detalhes a mais: a babá de IA treina aquilo que irá tirar o seu próprio emprego. Babá de criança perde o emprego porque a criança cresceu. Babá de IA sai porque ensinou bem demais.

E repare quem se adapta a quem: as pessoas reescrevem o texto ou prompt para o modelo entender, ajustam o trabalho ao que a ferramenta aceita. A casa se organiza em volta do bebê. A babá vive para servir à IA.

Não se confia numa criança de dois anos porque ela não sabe quando não sabe. Mas a criança dá sinal: hesita, derruba antes de destruir. É isso que ensina o adulto a chegar perto. Mas se a IA é um bebê, ele age diferente. Ele não dá sinal: erra com a mesma fluência com que acerta. Ele simplesmente acha que a faca não mata ninguém, que colocar cola na pizza é uma ótima ideia.

E o bebê tem uma vantagem: ele cresce; a máquina não. O sistema da sua operação não aprende com o erro de hoje à tarde, e a “geração seguinte” não é a IA crescidinha: é outro produto, com defeitos novos. Quando o bebê poderia evoluir, ele regride e ignora o que aprendeu antes de ser treinado, ensinado.

Se o erro do bebê IA fosse apenas um parágrafo esquisito, tudo bem. Mas esses bebês já negam crédito, filtram currículo, fazem triagem médica no posto de pronto atendimento de saúde. Nesses casos estamos chamando de “alucinação” ou “coisa inventada da cabeça do bebê” o que na verdade é uma eliminação injusta de currículo num processo seletivo, um diagnóstico errado de um paciente.

A palavras tem muito poder. Seria o caso de parar de usar linguagem que trata máquinas como gente. Não é alucinação, é erro. Não é “comportamento”, é defeito. Não é um bebê, é uma máquina, um software, que tem fabricante, que deve ser responsável pelo que a máquina faz.

E não devemos ter babás, temos que ter supervisores e conhecer os guardrails que são usados nesse software. E não temos que nos adaptar ao “bebê IA”, é ele que deve ser adaptar à gente.

Por fim, temos que nos perguntar quanto custa supervisionar essa máquina: horas de supervisão, cansaço do supervisor, impacto da IA sobre outros seres humanos.