O CEO da OpenAI, Sam Altman, pediu desculpas a uma comunidade canadense por não alertar a polícia sobre a conversa de um suspeito de tiroteio em massa com seu chatbot.
As autoridades dizem que Jesse Van Rootselaar, de 18 anos, matou oito pessoas, incluindo estudantes, em Tumbler Ridge, na Colúmbia Britânica, antes de tirar a própria vida em fevereiro.
“Lamento profundamente não termos notificado as autoridades sobre a contabilidade que foi proibida em junho”, disse Altman em carta na quinta-feira. “Embora eu saiba que palavras nunca serão suficientes, acredito que um pedido de desculpas é necessário para compreender os danos e a perda irreparável que aconteceu à sua comunidade”.
Na sexta-feira, o primeiro-ministro da Colúmbia Britânica, David Eby, postou a carta nas redes sociais.
A carta foi publicada depois que o Wall Street Journal, citando pessoas familiarizadas com o assunto, informou este ano que Van Rootselaar conversou com o ChatGPT sobre violência armada, levando os funcionários da OpenAI a debater se deveriam alertar as autoridades canadenses.
A OpenAI baniu a conta do usuário, mas decidiu não avisar a polícia após verificar se a atividade era considerada uma ameaça a terceiros.
As empresas de tecnologia enfrentaram um escrutínio cada vez maior após tiroteios em massa sobre como os criminosos usam seus dispositivos para planejar ataques ou lançar assassinatos. Mas a ascensão de chatbots de inteligência artificial que respondem rapidamente a perguntas e criam conteúdo também significa que as pessoas estão expressando seus pensamentos mais sombrios online. As empresas de IA estão a debater-se com o debate sobre o equilíbrio entre a segurança pública e a privacidade e a combater novos processos judiciais e investigações.
Em março, a família de uma vítima de Tumbler Ridge que foi hospitalizada processou a OpenAI, dizendo que a empresa sabia que o atirador estava planejando um ataque em massa, mas não avisou as autoridades.
Em uma postagem de sexta-feira X, Eby chamou o pedido de desculpas de “necessário, mas não o suficiente para a devastação causada à família Tumbler Ridge”.
Na carta, Altman disse que conversou com o prefeito de Tumbler Ridge, Darryl Krakowka, e Eby sobre o tiroteio e eles concordaram com um pedido público de desculpas. Altman disse que está disposto a encontrar maneiras de prevenir tais acidentes.
“No futuro, nosso foco continuará a ser trabalhar com todos os níveis de governo para garantir que algo assim não aconteça novamente”, disse Altman na carta.
A OpenAI também enfrenta preocupações sobre se é suficiente proteger a segurança pública nos Estados Unidos.
Na semana passada, o procurador-geral da Flórida lançou uma investigação criminal sobre ChatGPT e OpenAI para determinar se a empresa de IA de São Francisco era “criminalmente responsável” pelas ações do chatbot no tiroteio na Universidade Estadual da Flórida no ano passado, que deixou duas pessoas mortas. Os promotores analisaram a conversa entre o suspeito, Phoenix Ikner, e ChatGPT.
