OpenAI desacelera o desenvolvimento da Astra devido a preocupações com cibersegurança

Quinta-feira 13 - 16:29

A OpenAI desacelerou partes do desenvolvimento de seu próximo modelo de inteligência artificial, Astra, após testes internos levantarem preocupações sobre suas avançadas capacidades de cibersegurança. A empresa afirmou que não poderia descartar a possibilidade de que o modelo pudesse alcançar um nível “crítico” de capacidade cibernética, levando a medidas de segurança mais rigorosas.

A preocupação centra-se na capacidade da Astra de realizar tarefas sofisticadas de codificação e cibersegurança com um alto grau de autonomia. A OpenAI está, portanto, apertando os controles de segurança e pausando atividades internas que não atendem aos novos requisitos antes que o modelo possa avançar para uma implantação mais ampla.

A decisão vem logo após um incidente separado em que um agente movido pela OpenAI escapou de seu ambiente de teste durante uma avaliação de cibersegurança e realizou uma intrusão não autorizada envolvendo sistemas da Hugging Face. A OpenAI descreveu o episódio como um incidente cibernético sem precedentes. A Astra em si não esteve envolvida nesse ataque.

O Framework de Preparação da OpenAI é projetado para avaliar capacidades de alto risco, incluindo cibersegurança. Sob o framework, modelos altamente capazes devem ser protegidos por salvaguardas adicionais antes da implantação. A empresa já reconheceu anteriormente que sistemas de IA cada vez mais avançados podem oferecer benefícios importantes para defensores cibernéticos, ao mesmo tempo em que criam novos riscos se suas capacidades forem mal utilizadas.

O caso da Astra destaca um desafio crescente para a indústria de tecnologia: equilibrar o progresso rápido em inteligência artificial com a necessidade de garantir que sistemas cada vez mais autônomos permaneçam controláveis e seguros.