Meta adia modelos de IA Muse enquanto Zuckerberg cita preocupações de segurança

Quinta-feira 17 - 15:27

A Meta adiou o lançamento de seus novos modelos de inteligência artificial Muse por vários meses, com o CEO Mark Zuckerberg dizendo que o tempo adicional será usado para abordar preocupações de segurança e proteção em torno de sistemas avançados de IA.

Em uma postagem no X na quarta-feira, Zuckerberg afirmou que as empresas de IA e os laboratórios de pesquisa têm a responsabilidade de determinar o ritmo de desenvolvimento e implantação de seus modelos de uma forma que permita tempo suficiente para testes e avaliação de riscos antes de um lançamento público mais amplo.

O chefe da Meta disse que a decisão de adiar o Muse foi tomada de forma independente pela empresa, e não em resposta à pressão de concorrentes ou organizações externas. Ele enfatizou que medidas de segurança devem ser incorporadas ao processo de desenvolvimento desde o início, em vez de serem tratadas como uma etapa final antes que um modelo chegue aos usuários.

Zuckerberg também destacou o papel das avaliações independentes na avaliação de sistemas avançados de IA. Testes externos, argumentou ele, podem ajudar a identificar riscos potenciais que podem não ser detectados por meio dos procedimentos de avaliação interna da empresa.

Ele pediu por esforços de avaliação independente mais amplos e diversos, envolvendo uma gama mais ampla de especialistas e organizações. Essas avaliações poderiam fornecer um escrutínio adicional de modelos de IA cada vez mais capazes antes de serem implantados em grande escala.

A decisão vem à medida que grandes empresas de tecnologia continuam a competir no mercado de IA em rápida evolução, com sistemas cada vez mais sofisticados sendo desenvolvidos para uma gama crescente de aplicações. Juntamente com os avanços no desempenho, as preocupações aumentaram sobre o potencial uso indevido, vulnerabilidades de cibersegurança e a dificuldade de prever certas saídas de modelos avançados.

A decisão da Meta de adiar o Muse destaca a crescente ênfase na gestão de riscos de IA dentro das próprias empresas de tecnologia, ao mesmo tempo em que fortalece o papel da supervisão externa e dos testes independentes.

A medida também reflete um desafio mais amplo enfrentado pela indústria: equilibrar a pressão para lançar sistemas de IA cada vez mais capazes com a necessidade de dar aos desenvolvedores tempo suficiente para avaliar suas capacidades, limitações e riscos potenciais antes que se tornem amplamente disponíveis.