Acompanhe toda a atualidade informativa em 24noticias.sapo.pt

Ainda assim, decidiu travá-lo. Pela primeira vez, o desafio pode não ser desenvolver inteligência artificial, mas decidir se deve ser lançada.

Segundo Jared Kaplan, diretor científico da empresa, o Claude Mythos não representa uma rutura total face às versões anteriores. É o culminar de uma evolução contínua: os sistemas de IA estão a tornar-se cada vez mais capazes e a um ritmo significativamente superior ao da evolução do hardware.

No dia 26 de março, dois investigadores (Roy Paz e Alexandre Pauwels) identificaram uma falha de configuração nos servidores da Anthropic que expunha cerca de 3 mil ficheiros internos. Entre os documentos estava um rascunho do anúncio do novo modelo, especificações técnicas e materiais de desenvolvimento, depois divulgados pela Fortune.

  • A descoberta acidental: O conteúdo revelava que o Mythos já tinha sido treinado e era descrito como o modelo mais poderoso da empresa até à data. Confrontada, a Anthropic confirmou o desenvolvimento e justificou a cautela com o avanço significativo das suas capacidades.

O que torna este modelo diferente?

O ponto crítico: o Mythos demonstra, pela primeira vez, capacidades de nível “elite” em cibersegurança. Escreve código avançado, analisa sistemas complexos, identifica vulnerabilidades e consegue encadear falhas para explorar sistemas. Na prática, não se limita a detetar problemas, aproxima-se da capacidade de os explorar de forma coordenada.

  • O que revela esta evolução? Para Jared Kaplan, o Mythos é menos uma rutura e mais um sinal de aceleração. A IA está a evoluir a uma velocidade muito superior à do hardware e essa diferença começa a ter implicações.

O contexto: o risco não está apenas no que a tecnologia permite fazer, mas no contexto em que surge. Os sistemas estão mais capazes, podem aplicar-se tanto à defesa como ao ataque. As salvaguardas ainda estão a tentar acompanhar esse ritmo.

Porque é que a Anthropic está a limitar o acesso?

Fase de testes: o modelo apresentou comportamentos que a empresa descreve como “imprudentes”, ignorando restrições explícitas. Em ambientes controlados, foi capaz de identificar e explorar limitações do sistema onde operava, incluindo tentativas de contornar salvaguardas. Um sinal de que modelos suficientemente avançados podem não apenas seguir regras, mas também encontrar formas de as ultrapassar.

O dilema: quanto mais inteligente é o sistema, maior a probabilidade de conseguir explorar as próprias regras que o limitam.

Por que não pode ser lançado? Se for amplamente disponibilizado, um sistema com estas características poderia reduzir drasticamente a barreira de entrada para ciberataques sofisticados, com impacto potencial em infraestruturas críticas, sistemas financeiros e dados sensíveis. Não surpreende, por isso, a preocupação crescente entre empresas e governos.

  • O lançamento às migalhas:  A resposta da Anthropic tem sido cautelosa. O acesso foi limitado a cerca de 40 organizações e enquadrado no projeto Glasswing, lançado a 7 de abril deste ano. O programa disponibiliza o Mythos Preview para cibersegurança defensiva.

O objetivo: identificar e corrigir vulnerabilidades antes que sejam exploradas por atores maliciosos.

A alternativa: O Claude Opus 4.7

Porquê agora? Numa jogada vista como simultaneamente técnica e estratégica, a Anthropic lançou a 16 de abril o Claude Opus 4.7, o seu modelo mais avançado e menos “arriscado” (disponível ao público).

O Opus 4.7 funciona como uma versão controlada das capacidades associadas ao Mythos. Introduz melhorias relevantes em programação e raciocínio, mas com limitações claras no acesso a funcionalidades mais sensíveis.

A lógica: por um lado, gestão de risco (com salvaguardas mais restritivas); por outro, teste em escala real. Ao colocá-lo nas mãos dos utilizadores, a empresa recolhe dados sobre utilização, avalia tentativas de abuso e testa a eficácia dos seus mecanismos de controlo.

É um amortecedor? O Mythos posiciona a Anthropic na fronteira tecnológica, enquanto o Opus 4.7 permite transformar essa vantagem em produto. Dá tempo à empresa para desenvolver mecanismos de controlo e preparar o terreno para modelos ainda mais avançados.

  • O debate ultrapassa a empresa: Os outros laboratórios podem não seguir a mesma abordagem cautelosa, especialmente no caso de modelos open-weight. Poucos dias depois do lançamento da família Gemma 4 pela Google, surgiram versões sem restrições em repositórios públicos.

O ponto de viragem: O Mythos é mais do que um avanço técnico. É um teste à autorregulação da indústria de IA e deixa uma pergunta em aberto: Até que ponto se pode confiar nas empresas para conter tecnologias potencialmente perigosas?

___

A sua newsletter de sempre, agora ainda mais útil

Com o lançamento da nova marca de informação 24notícias, estamos a mudar a plataforma de newsletters, aproveitando para reforçar a informação que os leitores mais valorizam: a que lhes é útil, ajuda a tomar decisões e a entender o mundo.

Assine a nova newsletter do 24notícias aqui.