'Alucinações' de IA sinalizadas por investigadores da área médica
A gigante tecnológica OpenAI promoveu a sua ferramenta de transcrição baseada em IA, Whisper, como quase alcançando “robustez e precisão a nível humano”.
No entanto, o Whisper tem uma desvantagem significativa: gera frequentemente textos falsos, por vezes frases inteiras, como relatado por entrevistas com mais de uma dúzia de engenheiros de software, programadores e investigadores académicos, segundo a AP.
Este fenómeno, referido na indústria como “alucinações”, pode incluir comentários raciais inadequados, linguagem violenta e tratamentos médicos fabricados.
Os especialistas alertam que estas imprecisões são preocupantes, especialmente porque o Whisper está a ser adotado em vários setores a nível mundial para tarefas como a tradução e transcrição de entrevistas, a geração de texto para tecnologias de consumo populares e a criação de legendas de vídeo.
Particularmente preocupante é a rápida adoção de ferramentas baseadas no Whisper por parte das instalações médicas para transcrever as consultas dos pacientes, apesar dos avisos da OpenAI contra a utilização da ferramenta em “domínios de alto risco”.
-
18:30
-
18:00
-
17:30
-
17:00
-
16:30
-
16:00
-
15:30
-
15:00
-
14:45
-
14:30
-
14:00
-
13:30
-
13:00
-
12:20
-
12:00
-
11:45
-
11:30
-
11:15
-
11:00
-
10:45
-
10:30
-
10:15
-
10:00
-
09:53
-
09:45
-
09:30
-
09:15
-
09:00
-
21:59
-
21:30
-
21:00
-
20:00
