Sam Altman, da OpenAI, pediu desculpas por não ter avisado as autoridades sobre planos de um ataque no Canadá
Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge após um ataque em fevereiro, onde uma ex-usuária do ChatGPT matou oito pessoas. Altman disse estar “profundamente arrependido” por a empresa não ter alertado a polícia sobre conteúdos preocupantes da usuária no ChatGPT.
O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de atacar uma escola secundária, onde matou cinco crianças e um professor, e depois tirou a própria vida.
A OpenAI havia banido a suspeita do ChatGPT oito meses antes da tragédia, identificando sua conta por meio de sistemas de detecção de abuso. No entanto, a empresa justificou não ter reportado a conta à polícia na época, alegando que a atividade não era considerada grave o suficiente para justificar um encaminhamento às autoridades. “Estou profundamente arrependido por não termos alertado as autoridades policiais sobre a conta que foi banida em junho”, disse Altman em carta a Eby, divulgada nesta sexta-feira (24/04). “Embora eu saiba que palavras nunca são suficientes, acredito que um pedido de desculpas é necessário para reconhecer o dano e a perda irreversível que sua comunidade sofreu.”
A OpenAI utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real, restringindo ou banindo contas que violam suas regras – incluindo exploração sexual, apoio à automutilação e promoção de violência. Em casos graves, os sistemas sinalizam comportamentos de alto risco para revisão humana, podendo levar ao compartilhamento de dados com a polícia se uma ameaça crível for identificada. Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram com ações regulatórias caso mudanças não fossem implementadas. A empresa se comprometeu a reforçar suas medidas de segurança e criar um canal de contato direto com a polícia.
Altman afirmou que a OpenAI está comprometida em evitar tragédias semelhantes, declarando: “Daqui para frente, nosso foco continuará sendo trabalhar com todos os níveis de governo para ajudar a garantir que algo assim nunca aconteça novamente”. A família de uma menina ferida no tiroteio entrou com uma ação judicial por negligência contra a OpenAI, alegando que a empresa sabia que a atiradora planejava um “evento com mortes em massa” e não tomou medidas preventivas.
Com informações do G1