Canadá adverte OpenAI para reforçar a segurança ou enfrentar medidas governamentais
Os ministros canadianos advertiram a OpenAI de que, a menos que reforce rapidamente os seus protocolos de segurança após um recente tiroteio numa escola, o governo tomará medidas para impor as mudanças através de legislação, disse um alto funcionário na quarta-feira.
Ottawa convocou a equipa de segurança da OpenAI para uma reunião na terça-feira, depois de a empresa criadora do ChatGPT ter afirmado não ter contactado a polícia sobre uma conta que tinha banido, pertencente a uma alegada autora de um massacre. Jesse Van Rootselaar, de 18 anos, é suspeita de ter morto oito pessoas no dia 10 de fevereiro, antes de tirar a própria vida numa pequena cidade da Colúmbia Britânica.
A OpenAI afirmou ter banido a sua conta no ChatGPT no ano passado por violações das políticas, que, segundo a empresa, não cumpriam os critérios internos para a denúncia às autoridades policiais.
"A mensagem que transmitimos, sem rodeios, foi que esperamos que as mudanças sejam implementadas e, se não ocorrerem rapidamente, o governo tomará medidas", disse o ministro da Justiça, Sean Fraser, aos jornalistas. A OpenAI não estava disponível para comentar de imediato.
Em 2024, o governo liberal do Canadá apresentou um projeto de lei para reprimir o discurso de ódio online, mas a iniciativa foi travada no meio de críticas de que era demasiado abrangente. Os ministros afirmam que vão tentar novamente este ano com medidas mais específicas.
"Tudo o que poderia ter sido feito para evitar esta tragédia ou futuras tragédias deve ser feito. Vamos explorar todas as possibilidades dentro da lei", disse o primeiro-ministro Mark Carney aos jornalistas.
Van Rootselaar, que segundo a polícia nasceu homem, mas se identificava como mulher e iniciou a transição há seis anos, tinha um historial de problemas de saúde mental. Os homicídios ocorreram em Tumbler Ridge, na Colúmbia Britânica, uma cidade com cerca de 2.400 habitantes.
"Ficámos realmente perturbados com os relatos de que poderia ter havido uma oportunidade de levar o caso às autoridades policiais... e queremos garantir que, se alguma empresa tiver essa oportunidade, a aproveita", disse Evan Solomon, ministro federal responsável pela inteligência artificial.
Na terça-feira, a OpenAI afirmou que iria informar Ottawa em breve sobre as medidas adicionais que estava a tomar.
A OpenAI afirma ter banido a conta de Van Rootselaar em 2025, depois de esta ter sido sinalizada por sistemas que identificam "usos indevidos dos nossos modelos para promover atividades violentas".
A empresa considerou contactar a polícia, mas determinou que a conta não atingia o limiar de representar um risco iminente e credível de danos físicos graves a terceiros. Os especialistas em crime observaram que, embora seja necessário um maior escrutínio das plataformas de IA e das redes sociais, a polícia ou outras autoridades podem ter perdido oportunidades de evitar a tragédia na Colúmbia Britânica. A polícia já tinha apreendido armas da casa de Van Rootselaar, mas foram devolvidas posteriormente.
-
21:59
-
21:30
-
21:00
-
20:00
-
19:45
-
19:30
-
18:45
-
18:15
-
18:00
-
17:15
-
16:36
-
16:30
-
16:30
-
16:13
-
15:51
-
15:45
-
15:15
-
14:00
-
13:47
-
13:30
-
13:13
-
12:32
-
12:15
-
12:00
-
11:40
-
11:15
-
11:00
-
10:42
-
10:25
-
10:10
-
09:47
-
09:32
-
09:15
-
08:15