Substack apresenta nova ferramenta para identificar conteúdo gerado por IA

07:32

A Substack apresentou um novo recurso projetado para ajudar os leitores a determinar se artigos e postagens online foram escritos por humanos ou gerados com a ajuda de inteligência artificial.

A plataforma de publicação desenvolveu o novo sistema em parceria com a Pangram, uma empresa especializada em detecção de texto gerado por IA. A ferramenta permite que os usuários analisem artigos, postagens, comentários e respostas para avaliar a probabilidade de que o conteúdo tenha sido produzido por um sistema de IA.

De acordo com a Substack, a iniciativa faz parte de esforços mais amplos para aumentar a transparência e lidar com a crescente presença de conteúdo automatizado na internet. O CEO da plataforma disse que a empresa está particularmente preocupada com o conteúdo criado com IA, mas apresentado aos leitores como totalmente produzido por humanos.

O sistema de detecção pode atualmente ser usado em textos com mais de 100 palavras que foram publicados a partir de 21 de julho. Os resultados são exibidos apenas para a pessoa que solicita a análise, em vez de serem automaticamente mostrados a outros leitores.

A empresa reconheceu que a tecnologia de detecção de IA não é perfeita e pode, às vezes, produzir resultados imprecisos. No entanto, afirmou que o sistema da Pangram demonstrou um alto nível de precisão em testes independentes.

O recurso está atualmente disponível através da plataforma web da Substack e de seu aplicativo iOS, com suporte para dispositivos Android esperado para ser introduzido posteriormente.

As novas ferramentas também são direcionadas a escritores. Os autores podem usar o sistema de detecção antes de publicar seu trabalho para ver como seu conteúdo é classificado. A Substack também introduziu uma seção chamada "Como eu faço isso", permitindo que os escritores expliquem como criaram seu trabalho e se usaram ferramentas de IA durante o processo.

Se um escritor acredita que um resultado de detecção de IA está incorreto, a plataforma fornece uma opção para relatar o resultado e solicitar que a classificação seja revisada.

A Substack também está considerando medidas adicionais que dariam aos escritores mais controle sobre como a IA é usada em comentários e respostas. A empresa indicou que também pode fornecer aos leitores um maior controle sobre o tipo de conteúdo recomendado para eles.

A medida surge à medida que o material gerado por IA se torna cada vez mais comum em plataformas digitais. Estimativas do setor sugerem que uma parte significativa das postagens online pode agora ser criada total ou parcialmente com a ajuda de IA generativa.

A Substack não está sozinha em tentar abordar a questão. Outras grandes empresas de tecnologia e redes sociais também estão explorando maneiras de identificar e limitar conteúdo automatizado de baixa qualidade, enquanto trabalham em sistemas que podem distinguir entre material gerado por humanos e máquinas.

No entanto, a eficácia da detecção de IA continua sendo um tema de debate. À medida que os modelos de IA generativa se tornam cada vez mais sofisticados e capazes de produzir texto com sonoridade natural, os sistemas de detecção enfrentarão o desafio de acompanhar a tecnologia em rápida evolução.