Erro em cadeia expõe modelo de IA restrito da Anthropic

A segurança de ferramentas de IA enfrenta desafios constantes contra engenharia social e invasões de terceiros. A Anthropic, desenvolvedora da IA Claude, teve seu modelo especializado em cibersegurança, o Mythos, acessado por indivíduos não autorizados. Segundo informações do Bloomberg, essa brecha pode ter comprometido outros modelos proprietários da empresa. O incidente levanta dúvidas sobre a capacidade da Anthropic de proteger dados de clientes e a eficácia real do Mythos na prevenção de invasões.

Embora modelos de IA sejam capazes de identificar bugs em códigos que representem riscos de segurança, eles não conseguem detectar falhas em ferramentas de provedores terceirizados não auditadas pelo Mythos. Além disso, a engenharia social permanece como o elo mais frágil em qualquer sistema digital. A Anthropic promoveu o Mythos como uma inovação revolucionária, alegando ter identificado milhares de vulnerabilidades críticas em navegadores e sistemas operacionais. Apesar do marketing agressivo em seu manifesto de mais de 200 páginas, alguns resultados práticos foram comprovados, como o uso do Mythos pela Mozilla para corrigir mais de 270 falhas no Firefox.

Comparado a modelos mais antigos, o Mythos se destaca pela velocidade e eficiência na detecção de vulnerabilidades. Ele supera até mesmo versões avançadas como o Claude Opus 4.6, embora também seja capaz de explorar essas mesmas falhas — característica que levou a Anthropic a restringir seu acesso a um grupo seleto de empresas e organizações sem fins lucrativos. O modelo atraiu grande interesse de bancos e desenvolvedores de software, mas até mesmo um funcionário terceirizado conseguiu burlar as proteções do Mythos usando técnicas comuns de pesquisa na internet.

Esse colaborador, com acesso privilegiado aos sistemas da Anthropic, conseguiu compartilhar o acesso com colegas, formando um pequeno grupo de usuários não autorizados. Até o momento, eles não realizaram testes avançados de segurança com o Mythos, limitando-se a tarefas simples como criação de sites. Essa estratégia visava evitar que a Anthropic identificasse o uso indevido e bloqueasse o acesso. O grupo obteve acesso privilegiado ao modelar seu endereço online com base em informações internas da Anthropic, incluindo nomes de arquivos de modelos anteriores.

A origem dessas informações remonta a uma invasão sofrida pela Mercor, empresa de recrutamento voltada para IA. A brecha expôs dados sensíveis de candidatos e, segundo relatos, cerca de 4TB de informações foram roubadas, incluindo perfis e dados pessoais. A Mercor também lidava com dados de empresas de modelos de IA, o que a tornou um alvo atraente. A invasão ocorreu por meio de uma ferramenta open source chamada LiteLLM, explorada pelo grupo TeamPCP. No entanto, o ataque ao LiteLLM foi facilitado por credenciais falsas fornecidas por um provedor terceirizado, a Delve, conforme reportado pelo TechCrunch.

A cadeia de falhas expõe uma realidade preocupante: a segurança de uma empresa depende diretamente da robustez de seus parceiros. A Anthropic foi comprometida devido à vulnerabilidade na Mercor, que por sua vez foi explorada via LiteLLM, ferramenta terceirizada. O caso demonstra que, mesmo com modelos avançados de IA, a proteção contra invasões depende de toda a cadeia de fornecedores e colaboradores.

Apesar dos erros, o Mythos representa um avanço significativo para a cibersegurança. Seu uso pela Mozilla para corrigir centenas de vulnerabilidades prova seu potencial. Se outras organizações adotarem a ferramenta, os benefícios poderão ser ainda maiores. No entanto, o incidente reforça que nenhuma tecnologia é imune a riscos quando a segurança é negligenciada em qualquer elo da corrente.