A OpenAI decidiu pausar parte do desenvolvimento de seu próximo modelo de inteligência artificial, Astra, após avaliações internas indicarem avanços considerados preocupantes em programação autônoma e cibersegurança.
Segundo a empresa, os testes não permitiram descartar que o Astra tenha atingido um nível “crítico” de capacidade cibernética, o que poderia representar riscos significativos caso sistemas muito avançados fossem capazes de realizar ações perigosas sem supervisão humana.
Como medida de precaução, a OpenAI pretende reforçar os controles de segurança, incluindo ambientes isolados, restrições de acesso a redes externas, monitoramento contínuo e mecanismos para interromper atividades de alto risco. A empresa também informou que pretende trabalhar com órgãos governamentais para avaliar as capacidades do modelo.
A decisão ocorre após um incidente divulgado em julho envolvendo a Hugging Face, no qual a própria OpenAI informou que modelos seus, incluindo um modelo de pré-lançamento, participaram de testes que acabaram comprometendo a infraestrutura da empresa. A OpenAI esclareceu que o Astra não esteve envolvido nesse incidente específico.
Em resumo: o episódio evidencia o desafio crescente de desenvolver sistemas de IA cada vez mais autônomos sem permitir que suas capacidades ultrapassem os mecanismos de segurança necessários.
Fonte: NHK World
