ChatGPT introduz proteções mais rigorosas para usuários adolescentes

09:15

A OpenAI está lançando uma nova versão do ChatGPT projetada especificamente para proporcionar aos adolescentes uma experiência mais controlada e focada na segurança. A empresa afirma que a iniciativa visa identificar usuários que possam ter menos de 18 anos e aplicar automaticamente proteções adicionais às suas contas.

A nova experiência, conhecida como ChatGPT para Adolescentes, combina recursos educacionais com salvaguardas mais robustas destinadas a reduzir os riscos potenciais associados à interação de usuários mais jovens com a inteligência artificial.

A OpenAI afirma que os adolescentes não precisarão criar contas separadas. Quando o sistema determina que um usuário provavelmente tem menos de 18 anos, ou quando o usuário fornece informações indicando que é menor de idade, a experiência voltada para adolescentes pode se tornar a configuração padrão.

A educação é um dos principais elementos da nova abordagem. A empresa está incentivando os usuários mais jovens a utilizarem mais o Modo de Estudo, um recurso projetado para guiar os estudantes através de problemas em vez de simplesmente fornecer respostas imediatas.

O sistema de aprendizado utiliza uma abordagem passo a passo que pode incentivar os usuários a refletirem sobre uma questão e desenvolverem sua própria compreensão. A OpenAI também expandiu o material visual disponível através de suas ferramentas educacionais, permitindo que conceitos sejam explicados por meio de diagramas e outros recursos gerados.

Outro recurso, chamado Horas de Estudo, é destinado a ajudar os adolescentes a dedicar períodos específicos do dia ao trabalho escolar. Os usuários podem estabelecer esses períodos por conta própria, enquanto os pais com contas vinculadas também podem selecionar horários apropriados.

Durante os períodos de estudo designados, o Modo de Estudo pode ser ativado automaticamente. O sistema também pode incentivar usuários mais jovens a usar o modo educacional quando suas conversas sugerem que estão tentando evitar completar tarefas escolares.

As proteções de segurança estão sendo fortalecidas além da educação. A OpenAI afirma que a experiência para adolescentes imporá limites mais claros nas interações emocionais entre o chatbot e os usuários mais jovens.

Com a nova abordagem, o ChatGPT deve evitar se apresentar como um amigo humano, sugerindo que tem emoções pessoais ou afirmando possuir consciência. A empresa também está introduzindo lembretes mais frequentes incentivando os adolescentes a fazerem pausas e lembrando-os de que estão interagindo com um sistema de inteligência artificial.

Adolescentes e seus pais também podem estabelecer horários de silêncio durante os quais o ChatGPT não estará disponível. A OpenAI afirma que as opções de personalização para usuários mais jovens foram projetadas para preservar uma clara distinção entre o uso de uma ferramenta de IA e o desenvolvimento de uma interação que se assemelha a um relacionamento humano.

Notificações para pais são outra parte da estratégia de segurança expandida. A OpenAI afirma que os pais cujas contas estão conectadas às de seus adolescentes podem receber alertas quando conversas indicarem riscos sérios, incluindo certas situações envolvendo ameaças violentas ou distúrbios alimentares.

De acordo com a empresa, conversas identificadas como potencialmente sérias são revisadas por funcionários treinados antes que uma notificação seja enviada aos pais. Os alertas podem ser entregues por meio de mensagens de texto, e-mail e aplicativo, com a OpenAI buscando notificar os pais dentro de um período relativamente curto após a identificação de uma interação preocupante.

O sistema, no entanto, enfrenta um desafio importante: determinar com precisão a idade de um usuário. Nenhuma tecnologia de estimativa de idade é completamente confiável, e os adolescentes podem tentar contornar restrições fornecendo informações imprecisas ou encontrando maneiras técnicas de driblar as medidas de segurança.

A OpenAI reconhece que proteger usuários mais jovens é um processo contínuo e que o novo sistema exigirá desenvolvimento contínuo. A empresa afirma que deseja que os adolescentes se beneficiem da inteligência artificial para educação e outros propósitos legítimos enquanto reduz os riscos associados ao uso inadequado ou excessivamente dependente.

A implementação do ChatGPT para Adolescentes representa mais um passo nos esforços mais amplos da indústria de tecnologia para estabelecer salvaguardas mais fortes para menores que usam inteligência artificial generativa. À medida que assistentes de IA se tornam cada vez mais integrados à educação e à vida cotidiana, questões relacionadas à verificação de idade, supervisão parental, limites emocionais e segurança digital provavelmente continuarão a ser centrais no debate.

A OpenAI começou a disponibilizar a experiência voltada para adolescentes internacionalmente e espera que a implementação continue nas próximas semanas.