'Alucinações' de IA sinalizadas por investigadores da área médica
A gigante tecnológica OpenAI promoveu a sua ferramenta de transcrição baseada em IA, Whisper, como quase alcançando “robustez e precisão a nível humano”.
No entanto, o Whisper tem uma desvantagem significativa: gera frequentemente textos falsos, por vezes frases inteiras, como relatado por entrevistas com mais de uma dúzia de engenheiros de software, programadores e investigadores académicos, segundo a AP.
Este fenómeno, referido na indústria como “alucinações”, pode incluir comentários raciais inadequados, linguagem violenta e tratamentos médicos fabricados.
Os especialistas alertam que estas imprecisões são preocupantes, especialmente porque o Whisper está a ser adotado em vários setores a nível mundial para tarefas como a tradução e transcrição de entrevistas, a geração de texto para tecnologias de consumo populares e a criação de legendas de vídeo.
Particularmente preocupante é a rápida adoção de ferramentas baseadas no Whisper por parte das instalações médicas para transcrever as consultas dos pacientes, apesar dos avisos da OpenAI contra a utilização da ferramenta em “domínios de alto risco”.
-
23:15
-
23:00
-
22:42
-
22:22
-
22:00
-
21:30
-
21:00
-
21:00
-
20:32
-
20:30
-
20:15
-
19:50
-
19:30
-
19:25
-
19:20
-
19:05
-
18:45
-
18:30
-
18:18
-
18:00
-
17:30
-
17:15
-
17:10
-
16:45
-
16:15
-
15:25
-
15:00
-
14:40
-
14:26
-
14:20
-
14:00
-
13:30
-
13:13
-
13:00
-
12:47
-
12:32
-
12:23
-
12:15
-
12:02
-
11:50
-
11:35
-
11:15
-
11:00
-
10:42
-
10:25
-
10:10
-
09:47
-
09:47
-
09:32
-
09:15
-
08:50
-
08:32
-
08:15
