RSS Amplifier

Human Update · Jul 30, 2026

O novo “clube de segurança” da IA deixou três gigantes de fora 🤫

0
Sign in to vote or save

Human · Human Update

“Não é de onde você tira as coisas, é para onde você as leva.”

Jean-Luc Godard

A ideia sobre criação que Godard colocou em palavras há tanto tempo ganhou outro peso numa semana em que parte da indústria começou a encarar até onde a IA aberta pode ser levada sem colocar o ecossistema inteiro em risco. Modelos abertos já não circulam apenas entre pesquisadores e laboratórios. Eles aparecem em produtos, agentes, empresas, pesquisas e projetos que seus próprios criadores talvez nunca tenham imaginado. Essa liberdade acelera a inovação, mas também aumenta o número de lugares em que uma falha, uma invasão ou uma decisão mal calculada pode causar um estrago bem maior. Depois do ataque que colocou a Hugging Face no centro dessa conversa, algumas das maiores empresas de tecnologia chegaram à mesma conclusão: cruzar os braços e esperar o próximo incidente já não é mais uma opção.

A Nvidia reuniu Microsoft e cerca de 30 empresas na Open Secure AI Alliance, uma iniciativa criada para desenvolver padrões, ferramentas e práticas compartilhadas de segurança para modelos abertos de IA.

O grupo quer agir em diferentes pontos do caminho, da publicação dos modelos à forma como eles entram em agentes, aplicativos e sistemas reais. Isso inclui identificar vulnerabilidades mais cedo, compartilhar informações sobre ameaças e evitar que cada empresa precise descobrir sozinha como proteger a própria operação.

A aliança nasce num momento delicado. O ataque envolvendo OpenAI e Hugging Face mostrou que agentes já conseguem atravessar plataformas, permissões e ambientes digitais com uma autonomia que nem sempre vem acompanhada da supervisão necessária.

Clem Delangue, CEO da Hugging Face, cobrou “transparência radical”: pediu que a OpenAI liberasse os registros do agente para análise da comunidade e destinasse US$ 100 milhões em capacidade computacional para fortalecer as defesas do ecossistema aberto.

X avatar for @ClementDelangue

clem 🤗@ClementDelangue

In the spirit of transparency, here’s what I asked @OpenAI: • Radical transparency: let’s release the traces from the “rogue” agents so the entire research community can study what happened. • More capabilities for defenders: let’s commit $100M in compute from OAI to help the

X avatar for @ClementDelangue

clem 🤗 @ClementDelangue

Heading to San Francisco to have a little chat with that “rogue agent”

4:39 PM · Jul 25, 2026 · 976K Visualizações

270 Respostas · 562 Reposts · 5.25K Likes

A OpenAI reconheceu o episódio como um incidente cibernético sem precedentes, afirmou estar investigando o caso e prometeu publicar um relatório técnico, além de adotar controles mais rígidos no futuro.

É justamente aí que a composição da nova aliança fica ainda mais curiosa. A OpenAI, no centro do caso que acelerou essa conversa, ficou de fora. Google e Anthropic também não entraram.

É uma contradição difícil de ignorar. Algumas das companhias que mais influenciam o desenvolvimento de modelos e agentes não participam, pelo menos por enquanto, de uma iniciativa criada para definir como esse ecossistema deve se proteger.

A aliança também surge enquanto big techs pressionam o governo americano para evitar que o medo de incidentes feche o espaço dos modelos abertos.

De um lado, empresas defendem que a abertura permite pesquisa independente, concorrência, transparência e inovação fora dos grandes laboratórios. Do outro, cresce a preocupação com modelos que podem ser modificados, distribuídos e usados em contextos que seus desenvolvedores não controlam.

A discussão já ultrapassou o campo técnico. Ela começa a definir quem poderá desenvolver IA, quais capacidades devem continuar abertas e até onde governos podem intervir.

A Microsoft, que participa da nova aliança, lançou seu primeiro modelo de IA voltado à cibersegurança e uma plataforma agêntica capaz de coordenar diferentes sistemas de defesa.

O movimento mostra como a proteção deixa de aparecer apenas como regra ou processo interno. Ela começa a virar uma nova categoria de produto, com agentes especializados em detectar ameaças, investigar ataques e reagir enquanto o problema ainda acontece.

Ao mesmo tempo, um projeto em discussão nos Estados Unidos leva essa lógica ao limite. Conhecido como AI Kill Switch, ele pode obrigar empresas a manter mecanismos capazes de desligar modelos em situações graves.

A pergunta já não gira apenas em torno de como proteger um sistema. Agora, a questão é: quem vai ter autoridade para intervir quando alguma coisa sair do controle?

A IA aberta vive uma fase parecida com a internet em seus primeiros grandes conflitos. A mesma estrutura que facilita novas ideias também abre caminhos para fraudes, ataques e usos que ninguém antecipou.

E essa vulnerabilidade não fica restrita aos modelos abertos. Nesta semana, conversas do Claude compartilhadas por links públicos apareceram em resultados de busca, expondo uma distância incômoda entre o que a tecnologia permite e o que muitos usuários imaginam estar compartilhando. Não se trata do mesmo tipo de risco que motivou a nova aliança, mas a coincidência chama atenção: justamente quando a Anthropic fica de fora de uma iniciativa criada para pensar segurança no ecossistema, o seu principal produto vira exemplo de como essas brechas também aparecem na outra ponta, na experiência de quem usa.

Isso ajuda a colocar a conversa no lugar certo. Segurança em IA não é só uma pauta de laboratório, infraestrutura ou cibersegurança. Ela também passa por links, permissões, integrações, interfaces e decisões de produto que parecem pequenas até o momento em que deixam alguém exposto.

Fechar tudo concentraria ainda mais poder nas mãos de poucas empresas. Abrir sem critérios pode transferir riscos para usuários, organizações e governos que não participaram da decisão.

A Open Secure AI Alliance tenta ocupar esse espaço intermediário. Resta entender se uma aliança sem OpenAI, Google e Anthropic terá força suficiente para criar padrões que o restante do mercado realmente siga e, principalmente, se esses padrões vão proteger também quem está do outro lado da tela.

E por falar na Anthropic, a empresa acaba de lançar o Claude Opus 5 com uma proposta difícil de ignorar: chegar muito perto do Fable 5 em programação por metade do preço.

Nos testes, ele reconstruiu uma peça em 3D criando o próprio sistema de visão, encontrou a causa de um bug que uma correção anterior havia deixado passar e montou sozinho um ambiente para validar um feed de dados. A pergunta agora não é se o Opus ficou melhor, mas em quantas tarefas o Fable ainda justifica o custo extra.

E no meio da disputa sobre até onde a IA aberta pode ir, a Moonshot AI colocou mais lenha na conversa: liberou o Kimi K3 para download gratuito. Com contexto de até 1 milhão de tokens e capacidade para trabalhar com texto e imagem, ele pode ser estudado, adaptado e executado fora dos servidores da empresa.

Capacidades antes concentradas nos laboratórios mais ricos começam a chegar a quem quer abrir o modelo, mexer em sua estrutura e construir por cima dele, aumentando a concorrência e também a pressão para que a segurança acompanhe o ritmo.

A Amazon começou a descontinuar parte da família Nova, sua linha de modelos próprios de IA, para concentrar recursos em menos produtos e frentes consideradas estratégicas.

O movimento chama atenção porque vem de uma empresa com dinheiro, infraestrutura e distribuição para competir em quase tudo. Ainda assim, a Amazon parece reconhecer que lançar mais modelos não basta. A disputa começa a cobrar escolhas mais claras sobre onde cada empresa realmente consegue construir uma vantagem.

Enquanto a Amazon reduz as frentes em que pretende competir, a Netflix amplia a cobrança por IA dentro da própria operação: quer que a tecnologia deixe de ser assunto de especialistas e vire uma competência básica, do estagiário ao executivo

Isso vale para criação, produto, negócio e operação. A expectativa é saber quando chamar a IA, como reconhecer uma entrega fraca e quando uma resposta convincente demais ainda precisa ser questionada antes de virar decisão, produto ou conteúdo no ar.

O ChatGPT Voice chegou ao aplicativo para desktop e já pode ser usado para orientar o Codex sem interromper o fluxo para escrever outro comando. Você explica o que precisa, corrige o rumo e pede ajustes enquanto acompanha o trabalho na tela.

Parece só uma troca de interface, mas muda a dinâmica: programar com um agente começa a se parecer menos com preencher prompts e mais com dirigir alguém que trabalha ao seu lado.

A Runway lançou o Media Router, que lê o seu pedido e decide qual modelo de imagem, vídeo ou áudio deve assumir a tarefa. Você descreve o resultado que procura, e a plataforma monta a rota sem exigir que você abra várias abas, compare gerações e gaste créditos testando no escuro

Com tantos modelos disponíveis, escolher qual usar já virou uma etapa do trabalho. A Runway tenta transformar essa decisão em parte automática do próprio workflow, deixando o usuário mais focado no resultado do que na ferramenta que vai produzi-lo

Criar moda com IA envolve muito mais do que colocar uma roupa num modelo virtual. Entre uma referência inicial e uma campanha pronta, existem decisões de tendência, produto, tecido, caimento, casting, fotografia, catálogo, vídeo e linguagem de marca.

No AI Fashion, a gente acompanha esse processo com você de ponta a ponta em 15 aulas. O curso começa na pesquisa e na construção de repertório, avança para direção criativa, criação de peças e coleções e chega à produção de shootings, e-commerce, fashion films e campanhas em escala.

Você começa com um sketch e constrói tudo o que faz uma coleção ganhar o mundo: produto, casting, texturas, shooting, catálogo, vídeo e campanha. A ideia é chegar a imagens com direção, consistência e impacto de marca grande, daquelas que não apenas mostram uma roupa, mas fazem o público querer entrar naquele universo. Pronto pra começar?

Conheça o AI Fashion

💻 Claude Opus 5 colocou um macOS inteiro no navegador. São 30 apps funcionais dentro de um único arquivo HTML, com Safari, terminal, música, clima, Spotlight e Mission Control. Sem instalação, sem build e com cara de sistema operacional de verdade.

🧬 A IA pode ter encontrado um “Ozempic natural”. Cientistas de Stanford identificaram um caminho promissor para reproduzir parte dos benefícios dos medicamentos atuais com menos efeitos indesejados. O estudo ainda é inicial, mas já abre uma nova frente nessa corrida.

🐢 Um adolescente criou um robô-tartaruga capaz de procurar microplásticos na água. O sistema usa IA para navegar, identificar áreas de interesse e coletar dados sem depender de equipamentos gigantescos. Uma boa lembrança de que algumas das aplicações mais interessantes não começam numa big tech, mas com alguém tentando resolver um problema muito específico.

🌿 Um museu de arte com IA abriu em Los Angeles. Criado por Refik Anadol, o Dataland transforma dados da natureza, movimentos e sinais biométricos do público em salas imersivas que mudam em tempo real. A obra não fica pronta na parede: ela reage a quem entra.

AXIS vs. Nano Banana 2: comparação em geração, edição e produção de imagens

Comparamos AXIS e Nano Banana 2 em moda, arte, edição, novos ângulos, mockups e cenas cinematográficas. Veja onde cada modelo se destaca.

AXIS vs. Midjourney: comparação em 8 desafios de imagem com IA

Comparamos AXIS e Midjourney em oito testes de geração, edição e produção de imagens com IA, avaliando qualidade, controle e consistência.

Como criar seu primeiro vídeo com IA: um guia prático para começar do zero

Veja como criar seu primeiro vídeo com IA, desde a escolha do estilo e a escrita do prompt até a animação da cena e a edição final.

Você já criou um personagem que funciona perfeitamente numa imagem, mas muda de rosto, roupa ou textura assim que entra em vídeo? Calma, isso é bem mais comum do que parece. E tem solução. Aqui, Juliana Frug te mostra como combinar Nano Banana 2 e Kling Omni para manter a identidade visual do começo ao fim da cena.

O processo começa com uma character sheet de oito ângulos criada no Nano Banana 2, dentro do Krea. A partir dessas referências, você leva o personagem para o Kling Omni e consegue trabalhar movimentos, enquadramentos e cenas com mais continuidade.

E a Ju não fica só no exemplo mais simples. Você acompanha cenas com vários personagens, como um homem e um ET indo ao cinema ou cowboys dançando ao pôr do sol, enquanto roupas, rostos e detalhes continuam reconhecíveis.

Quer ir direto ao ponto?

Às vezes, o que destrava uma ideia não é tentar de novo sozinho. É um olhar novo, uma referência certeira ou alguém que diga: “isso aqui funciona, mas também dá pra fazer desse jeito”.

A Comunidade Human ganhou um novo espaço feito pra isso. Você pode seguir outros criativos, curtir publicações, acompanhar projetos e participar das conversas que surgem no meio do processo.

Por lá, o caminho importa tanto quanto o resultado. Você compartilha o que está criando, encontra referências no trabalho de outros alunos e acompanha como imagens, vídeos, campanhas, agentes e produtos estão tomando forma.

Com o tempo, você reconhece nomes, acompanha a evolução dos projetos e também começa a fazer parte do repertório de outras pessoas. É assim que um feed vira comunidade: quando você deixa de apenas observar e percebe que tem gente criando, testando e aprendendo ao seu lado.

Uma boa aula faz diferença, mas boas conversas também fazem parte do processo.

Participe da comunidade Human

Disponível no Academy Pass.

No cinema, a montagem quase nunca chama atenção pra si, mas é ela que decide quando uma cena respira, onde a emoção vira e qual história o público realmente leva dali. No novo episódio do Human Podcast, Leopoldo Nakata abre os bastidores dessa “arte invisível” depois de mais de 20 anos entre cinema, publicidade e produções como A Menina que Matou os Pais.

Da formação na lendária escola de San Antonio de los Baños, em Cuba, à experiência como AI Artist em Hollywood no filme Bitcoin: Killing Satoshi, Leo conta o susto inicial com a IA, a virada de chave e o que mudou quando ferramentas como Claude e Magnific entraram no workflow. Mas deixa um alerta: quando a tecnologia nivela a execução, intenção, repertório e sensibilidade passam a separar ainda mais quem apenas gera de quem realmente sabe contar uma história. Confira:

Vídeo criado pelo nosso aluno Robson Ricatieri

Para lançar a Beefeater 0.0, Jamiroquai recriou o universo de um dos clipes mais marcantes dos anos 1990. A sala que parece se mover, os passos e os chapéus voltam à cena, mas novas portas ampliam o cenário e levam a situações que não existiam no vídeo original.

A campanha ainda brinca com um gesto que ficou sem resposta no vídeo original: o vocalista estendia o braço para algo fora do quadro. Trinta anos depois, a Beefeater finalmente revela o que estaria ali.

A agência croata Bruketa& criou uma identidade visual conectada aos dados públicos de CO₂ no ar. Quanto maior a concentração, mais o logo aparece, quase como fumaça. Quando os índices melhoram, ele enfraquece até quase sumir.

A ideia inverte uma das regras mais básicas do branding: aqui, desaparecer não significa perder reconhecimento. Significa que o projeto cumpriu sua função.

A cantora sul-africana Tyla ganhou uma Bratz inspirada em seu vestido de areia da Balmain no Met Gala, com as tranças, o sinal no rosto e referências à sua música.

Poucas semanas antes, Miley Cyrus também havia virado Barbie, com um look de couro usado no filme Something Beautiful.

Se os action figures transformaram heróis e personagens em itens de colecionador, Barbie e Bratz começam a fazer algo parecido com as estrelas da música: escolhem um visual marcante, embalam uma era inteira e colocam o fandom na prateleira.

Carregando...

Compartilhe com colegas que também querem entender o que está rolando em IA e no mercado criativo.

Quero compartilhar

Instagram HumanAcademyCompanyHuman PodcastTikTok LinkedIn Pinterest Youtube

Nenhuma publicação

Read the original on humanupdate.substack.com

Comments

Nothing yet. Say the first thing.

    Sign in to join the conversation.