A Anthropic suspendeu o acesso a seus novos modelos de inteligência artificial, Fable 5 e Mythos 5, para usuários estrangeiros. A medida teria sido tomada por ordem de determinação do governo dos Estados Unidos. A decisão vale para qualquer cidadão de outro país, mesmo que esteja dentro do território americano, e também afeta funcionários estrangeiros da própria empresa.
Segundo a companhia, a ordem foi emitida com base em questões de segurança nacional e não especifica quais riscos teriam motivado a decisão.
“Momento único”: executiva do Google analisa oportunidades de avanço de IA
Aplicativos da Meta apresentam instabilidade nesta sexta-feira
“Não sabemos como será o futuro”, diz especialista sobre avanço de IA
Em comunicado, a Anthropic disse entender que as autoridades acreditam ter identificado uma forma de contornar as proteções de segurança do Fable 5, mas afirmou que a técnica apresentada envolve vulnerabilidades consideradas limitadas e que capacidades semelhantes podem ser encontradas em outros modelos disponíveis publicamente.
A empresa também declarou que analisou uma demonstração da suposta técnica e encontrou apenas falhas menores, sem benefícios específicos relacionados ao modelo. Nenhum teste teria encontrado até agora um método universal capaz de quebrar as barreiras de segurança do sistema.
A Anthropic defendeu que o Fable 5 foi desenvolvido com mecanismos avançados de proteção para reduzir o uso indevido da tecnologia em atividades relacionadas a ataques digitais. Segundo a empresa, o modelo passou por milhares de horas de testes de segurança antes do lançamento, incluindo avaliações com órgãos governamentais e organizações privadas.
Os demais modelos do Claude continuam funcionando normalmente. O governo dos EUA não fez maiores declarações.
O que é o Claude
Fundada em 2021 por ex-funcionários da OpenAI, a Anthropic é uma das principais empresas da corrida pela inteligência artificial generativa. A companhia é responsável pelo chatbot Claude, que oferece recursos semelhantes ao ChatGPT.
Apesar de ser uma empresa recente, a Anthropic recebeu investimentos bilionários de gigantes da tecnologia, como Google e Amazon, e ganhou destaque por defender uma abordagem voltada à segurança no desenvolvimento de sistemas de IA.
A empresa afirma que sua missão é criar modelos mais confiáveis e com maior controle sobre possíveis usos indevidos.
Jovens estão entre os mais desconfiados com IA, diz pesquisa global
Source: Anthropic suspende acesso a novo modelo de IA por ordem dos EUA; saiba mais
