Anthropic Reinaugura Claude Fable 5 após Controle de Comércio dos EUA Ser Retirado
A Anthropic anuncia o returno do modelo artificial de inteligência Claude Fable 5 após o controle de comércio ser retirado pela administração dos EUA.
Durante 18 dias, o modelo artificial de inteligência Claude Fable 5 da Anthropic esteve offline devido ao controle de comércio imposto pela administração dos EUA. O controle foi retirado no último dia 13 de junho. O modelo agora está novamente disponível em Claude.ai, Claude Platform, Claude Code e Claude Cowork, com acesso em AWS, Google Cloud e Microsoft Foundry a seguir.
De acordo com o blog da Anthropic, a empresa conseguiu restaurar o acceso global ao modelo, em parte, graças a um novo filtro de segurança. O único filtro que foi implementado, bloqueia a técnica que foi identificada pelos pesquisadores da Amazon, que foi capaz de identificar vulnerabilidades em software e, em um caso, até mesmo produzir código para explora-las. O filtro foi testado e foi capaz de bloquear a técnica em mais de 99% dos casos.
A Anthropic afirmou que o novo filtro também captura solicitações de códigos e depuração mais benignas como efeito colateral. O filtro não afeta a capacidade do modelo de identificar vulnerabilidades em software. O modelo ainda pode identificar vulnerabilidades, mas não pode ser usado para explorá-las.
A Anthropic também anunciou que está abrindo um programa de HackerOne para que pesquisadores possam relatar novas brechas em Fable 5. Além disso, a empresa comprometeu-se a fornecer às organizações do governo antecipadas e acesso de testes a modelos de vanguarda em desenvolvimento antes de sua liberação.
Contexto e Impacto no Mercado
A indústria de inteligência artificial enfrentou uma crise recentemente quando o governo dos EUA impôs controles de exportação ao modelo Claude Fable 5, uma inteligência artificial capaz de identificar vulnerabilidades no software. A medida causou desconforto com a equipe de desenvolvedores e usuários em todo o mundo.
A Anthropic, criadora do modelo, precisou tomar medidas drásticas para manter a integridade da plataforma e evitar que vulnerabilidades fossem exploradas por indivíduos mal-intencionados. A restauração do acesso global ao modelo foi vista como uma vitória para a comunidade de desenvolvedores, que pode agora continuar a utilizar as capacidades do Fable 5.
A decisão do governo dos EUA teve um impacto significativo na indústria, pois forçou a Anthropic a tomar medidas extremas para proteger a sua plataforma dos riscos de exploração de segurança. No entanto, a restauração dos controles de exportação permitirá que os usuários da plataforma sejam capazes de utilizar as capacidades de identificação de vulnerabilidades do Fable 5 de forma segura, sem colocar em risco a integridade da plataforma ou a segurança dos usuários
Análise e Perspectivas do Setor
Uma Solução Parcial, Mas Um Passo na Direção Certa.
Há uma tendência crescente no setor de IA para o desenvolvimento de tecnologias de segurança aprimoradas, que permitem a identificação e detecção de técnicas mal-intencionadas, como a exploração de vulnerabilidades em softwares. A solução proposta pela Anthropic, que visa bloquear um tipo específico de técnica, é um exemplo disso.
Cabe questionar se a implementação de filtros individuais é suficiente para garantir a segurança dos modelos de IA. A experiência da Anthropic sugere que, sim, é possível encontrar uma solução para problemas específicos, mas ainda há muito a ser feito para garantir a segurança de uma forma mais geral.
Além disso, a evolução das tecnologias de IA e de segurança é um processo contínuo e a Anthropic precisará continuar a trabalhar para aprimorar suas soluções e garantir que elas sejam eficazes contra novas ameaças.
É importante notar que essa é uma área em constante evolução e que a solução proposta pela Anthropic pode servir de exemplo para outras empresas e pesquisadores no setor.
