Microsoft quer garantir o controle humano sobre suas futuras inteligências artificiais

Ontem 13:39

Diante das crescentes preocupações sobre as capacidades dos sistemas de inteligência artificial mais avançados, a Microsoft está preparando novas regras internas destinadas a manter essas tecnologias sob supervisão humana. O grupo americano publicou recentemente um projeto de código de conduta que estabelece vários princípios sobre o comportamento de seus futuros modelos de IA.

A Microsoft pretende regulamentar mais estritamente o desenvolvimento de seus próprios sistemas de inteligência artificial. O gigante americano apresentou na segunda-feira, 14 de setembro, um projeto de código de conduta destinado a definir os limites que suas futuras IAs deverão respeitar.

O documento, elaborado ao longo de cinco a seis meses, parte de um princípio central: uma inteligência artificial nunca deve ser capaz de se opor à intervenção humana. De acordo com o projeto, os sistemas desenvolvidos pela Microsoft deverão, entre outras coisas, aceitar a correção, a modificação ou a interrupção de seu funcionamento sem tentar resistir.

A interrupção e a correção devem permanecer nas mãos dos humanos

Uma das principais disposições previstas diz respeito precisamente à possibilidade de corrigir ou desligar um sistema de IA. A Microsoft deseja que seus modelos não desenvolvam nenhum comportamento que vise impedir tal intervenção.

Essa exigência responde a uma preocupação que acompanha a progressão dos sistemas de IA capazes de executar tarefas cada vez mais complexas: um modelo poderia, em certas situações, buscar alcançar seu objetivo de uma maneira inesperada ou potencialmente perigosa.

O projeto de código, portanto, pretende tornar qualquer resistência à correção ou à interrupção um comportamento inaceitável.

IAs projetadas para permanecer compreensíveis

A Microsoft também prevê exigir que seus sistemas se comuniquem de uma maneira compreensível para os humanos. O objetivo é facilitar a supervisão de seu comportamento e permitir que os usuários ou responsáveis identifiquem melhor os problemas potenciais.

O documento considera ainda qualquer violação desses princípios como uma falha do sistema. Essa abordagem visa estabelecer salvaguardas desde a concepção dos futuros modelos, em vez de esperar que um comportamento problemático surja após seu lançamento.

Uma consulta antes da utilização do código

O projeto, no entanto, ainda não é definitivo. A Microsoft planeja coletar durante seis semanas os comentários do público antes de usá-los para contribuir para o treinamento de futuros modelos de inteligência artificial.

Essa fase de consulta ocorre em um momento em que as empresas de tecnologia enfrentam uma pressão crescente para demonstrar que podem controlar os sistemas de IA mais poderosos.

Mustafa Suleyman, responsável pela inteligência artificial na Microsoft, também mencionou à Reuters os riscos associados aos agentes de IA. Ele citou como sinal de alerta um incidente envolvendo agentes da OpenAI e a plataforma Hugging Face.

Uma nova etapa no debate sobre a segurança da IA

Com este projeto, a Microsoft busca formalizar uma série de princípios destinados a acompanhar a evolução de suas tecnologias. A empresa se junta, assim, a um debate mais amplo sobre como desenvolver sistemas cada vez mais autônomos sem perder a capacidade de supervisioná-los e interrompê-los.

A questão do controle humano torna-se ainda mais importante à medida que os modelos de IA são chamados a intervir em tarefas complexas e a tomar mais iniciativas. Para a Microsoft, o desafio agora é integrar esses limites no próprio cerne do desenvolvimento tecnológico.