Canadá processa OpenAI por falha em alertar sobre violência no ChatGPT
Canadá processa OpenAI por falhar em alertar a polícia sobre planos violentos de atiradora que usou ChatGPT. Caso levanta debates sobre responsabilidade de IAs em crimes.
A província da Colúmbia Britânica, no Canadá, anunciou que entrará com uma ação legal contra a OpenAI, empresa por trás do ChatGPT. A medida visa responsabilizar a companhia por supostamente não ter denunciado às autoridades as atividades violentas descritas pela autora de um ataque a tiros em uma escola. O incidente, ocorrido em fevereiro deste ano na pequena cidade de Tumbler Ridge, resultou na morte de seis pessoas e deixou mais de 20 feridos.
A procuradora-geral da província, Niki Sharma, declarou que a ação legal buscará responsabilizar a OpenAI e seus gestores pela omissão em notificar as forças de segurança sobre as solicitações violentas feitas na plataforma ChatGPT pela atiradora, Jesse Van Rootselaar, de 18 anos, antes da tragédia. A OpenAI já havia suspendido uma conta associada a Rootselaar em junho de 2025, oito meses antes do ataque, devido a preocupações com o uso ligado a atividades violentas. No entanto, a empresa afirmou não ter informado a polícia por considerar que não havia indícios de um ataque iminente.
No dia do ataque, 10 de fevereiro, Rootselaar assassinou sua mãe e seu meio-irmão de 11 anos em casa, antes de se dirigir à escola. A polícia foi alertada sobre um atirador na cidade e um alarme foi emitido na unidade de ensino, instruindo alunos e professores a permanecerem em locais seguros. A biblioteca da escola foi o principal alvo do ataque. Além da professora, cinco estudantes, com idades entre 12 e 13 anos, foram mortos. A atiradora cometeu suicídio no local.
O caso canadense ecoa preocupações sobre o uso indevido de inteligência artificial para fins criminosos. No Brasil, em junho deste ano, um homem foi preso no Espírito Santo após revelar ao ChatGPT seu plano de matar o próprio filho para evitar o pagamento de pensão alimentícia. O alerta partiu de autoridades americanas, incluindo o FBI, que compartilhou informações sobre o risco à vítima. A OpenAI, ao ser contatada pelas autoridades brasileiras, relatou as conversas do homem com a IA, o que auxiliou na investigação e prisão do suspeito. O homem negou a intenção de matar a criança, mas a polícia investiga o caso como tentativa de homicídio.