No final da semana passada, A Antrópica ganhou seu novo Claude Fábula 5 e Mito 5 Modelos de IA off-line seguindo uma diretiva de controle de exportação do governo dos Estados Unidos que proíbe “qualquer cidadão estrangeiro” de usar os serviços. A empresa esteve em conversa com a Casa Branca desde sexta-feira, mas ainda não conseguiu um acordo que lhe permita restabelecer as ofertas.
Desde Mythos estreou em abrilA Anthropic afirmou – e alertou – que o modelo possui recursos avançados não apenas para encontrar vulnerabilidades de software para ajudar os defensores a corrigi-las, mas também para descobrir maneiras de explorá-las que poderiam ser usadas por malfeitores. A própria Anthropic observou essa faca de dois gumes no lançamento de Mythos 5 e Claude Fable 5. “Grande parte do uso avançado de modelos de IA é de uso duplo: as mesmas consultas que são benéficas nas mãos de profissionais de segurança cibernética e pesquisadores de biologia podem ser perigosas se estiverem disponíveis para atores mal-intencionados”, a empresa escreveu em uma postagem no blog semana passada.
Com isso em mente, a empresa lançou inicialmente uma versão chamada Mythos Preview para um consórcio seleto como parte de um grupo de trabalho conhecido como Projeto Glasswing. Mythos 5 também foi lançado de forma privada para este grupo na semana passada, enquanto Claude Fable 5, que é um modelo de nível Mythos, foi lançado ao público em geral com blocos específicos sobre sua capacidade de dar respostas a perguntas sobre biologia e segurança cibernética.
Então, no final da semana passada, a administração Trump movido para restringir ambos os modelos porque acredita que as proteções do Fable 5 podem ser desativadas para permitir acesso total às capacidades do Mythos 5, supostamente tornando-o um risco para a segurança nacional.
Os especialistas dizem, porém, que este conflito institucional está simplesmente atrasando ou mascarando uma dura verdade: o Antrópico pode ser a ponta da lança neste momento, mas as capacidades de IA em geral e os modelos de múltiplas empresas e desenvolvedores de peso aberto terão quase certamente capacidades semelhantes às do Mythos 5 num futuro próximo – se é que já não o têm.
“É míope ao extremo pensar que nenhum outro concorrente da Anthropic desenvolverá capacidades semelhantes às da Mythos ou mesmo que ainda não o tenha feito”, diz Tarah Wheeler, diretor de segurança da empresa especializada de consultoria em segurança cibernética TPO Group. “Há outras empresas que estão logo atrás da Anthropic que provavelmente também têm as capacidades e as estão mantendo em reserva enquanto veem como a Anthropic está sendo tratada no atual ambiente regulatório.”
A própria Anthropic enfatizou esse ponto desde o lançamento do Mythos Preview. “A verdadeira mensagem é que não se trata do modelo ou do Anthropic”, disse Logan Graham, líder da equipe vermelha de fronteira da empresa, à WIRED quando o Mythos Preview foi lançado em abril. “Precisamos de nos preparar agora para um mundo onde estas capacidades estarão amplamente disponíveis em 6, 12, 24 meses.”
A OpenAI, por exemplo, também fez um lançamento privado de um modelo focado em segurança cibernética em meados de abril e anunciou uma estratégia ampliada de segurança cibernética.
Os pesquisadores observam que, mesmo antes desta próxima geração de modelos, as ofertas existentes de IA poderiam ser usadas para caça avançada de vulnerabilidades e desenvolvimento de exploração com um aproveitamento refinado. Um grande grupo de líderes de segurança cibernética enfatizou isso à administração em um carta aberta no domingo, argumentando que a directiva de controlo de exportações da Casa Branca era equivocada.
“Não se trata de um modelo único; é a tendência geral da tecnologia”, diz Bruce Schneier, pesquisador da Universidade de Harvard e da Universidade de Toronto, que tem estudado analisando a situação. “Modelos menores, mais baratos e de código aberto, às vezes sozinhos e às vezes em conjunto uns com os outros, podem igualar o desempenho do Mythos/Fable com sugestões mais sofisticadas. E devemos esperar que outros modelos correspondam à criatividade e tenacidade do Mythos/Fable dentro de meses – um pouco mais para modelos de código aberto.”
Segundo os especialistas, aquilo em que a Casa Branca e os governos de todo o mundo precisam de se concentrar é no desenvolvimento democrático de planos muito mais amplos e transparentes sobre a forma como irão enfrentar os avanços nas capacidades de IA na segurança cibernética e noutras áreas sensíveis, à medida que estes inevitavelmente ocorrerem.
“A questão política não é se uma tecnologia apresenta riscos”, diz Chris Wysopal, cofundador da empresa de segurança em nuvem Veracode. “A questão é se uma restrição específica reduz significativamente esse risco ou se apenas atrasa as pessoas que tentam tornar os sistemas mais seguros.”
