ChatGPT e Claude estão usando os dados da sua empresa para treinar IA?

Já parou pra pensar onde os dados que você coloca no ChatGPT, Claude ou Gemini vão parar?

Esses dias uma cliente minha me trouxe essa preocupação em relação aos dados dos clientes dela, e parei pra dar uma estudada. Quero compartilhar o que aprendi.

O que faz real diferença aqui é o tipo de conta: consumer vs. comercial.

No ChatGPT gratuito, Plus e Pro (e no Claude pelo app pessoal) suas conversas podem ser usadas para treinar os modelos, a menos que você configure o opt-out manualmente. A maioria nunca fez isso.

No plano enterprise, via API, ou em ferramentas usadas sob termos comerciais, os dados não são usados para treinamento por padrão. A Anthropic deleta os logs da API em 7 dias. A OpenAI tem a mesma distinção.

Sabe onde mora o maior problema disso? Empresas querem economizar, e optam pela conta pessoal (ou deixam os colaboradores usarem as contas pessoais deles para o trabalho), e acabam colando propostas, contratos e dados sensíveis de clientes nesses contextos.

Se você tem uma empresa, eu me preocuparia com três coisas:

1. Qual versão a equipe usa — conta pessoal ou conta comercial?

2. O opt-out de treinamento está ativo para quem usa conta pessoal?

3. Dados sensíveis de clientes passam por essas conversas?

No final das contas, não é a ferramenta que precisa de cuidado, é o processo (ou a falta dele) em volta dela.