'Alucinações' de IA sinalizadas por investigadores da área médica
A gigante tecnológica OpenAI promoveu a sua ferramenta de transcrição baseada em IA, Whisper, como quase alcançando “robustez e precisão a nível humano”.
No entanto, o Whisper tem uma desvantagem significativa: gera frequentemente textos falsos, por vezes frases inteiras, como relatado por entrevistas com mais de uma dúzia de engenheiros de software, programadores e investigadores académicos, segundo a AP.
Este fenómeno, referido na indústria como “alucinações”, pode incluir comentários raciais inadequados, linguagem violenta e tratamentos médicos fabricados.
Os especialistas alertam que estas imprecisões são preocupantes, especialmente porque o Whisper está a ser adotado em vários setores a nível mundial para tarefas como a tradução e transcrição de entrevistas, a geração de texto para tecnologias de consumo populares e a criação de legendas de vídeo.
Particularmente preocupante é a rápida adoção de ferramentas baseadas no Whisper por parte das instalações médicas para transcrever as consultas dos pacientes, apesar dos avisos da OpenAI contra a utilização da ferramenta em “domínios de alto risco”.
-
13:00
-
12:47
-
12:32
-
12:23
-
12:15
-
12:02
-
11:50
-
11:35
-
11:15
-
11:00
-
10:42
-
10:25
-
10:10
-
09:47
-
09:47
-
09:32
-
09:15
-
08:50
-
08:32
-
08:15
-
23:00
-
22:32
-
22:15
-
21:47
-
21:32
-
21:15
-
21:00
-
20:30
-
20:20
-
20:00
-
19:42
-
19:40
-
19:30
-
19:30
-
19:20
-
19:10
-
18:45
-
18:32
-
18:15
-
17:50
-
17:35
-
17:15
-
17:00
-
16:40
-
16:35
-
16:20
-
16:05
-
15:30
-
15:30
-
15:15
-
15:06
-
15:00
-
14:42
-
14:30
-
14:25
-
14:10
-
13:47
-
13:30
-
13:13
