Siete familias de víctimas heridas o muertas en el tiroteo en la escuela Tumbler Ridge en Canadá han presentado demandas contra OpenAI y el director ejecutivo Sam Altman, acusando a la compañía y su liderazgo de negligencia después de que no alertaron a la policía sobre la actividad ChatGPT del presunto tirador. Las familias alegan que OpenAI guardó silencio después de que sus sistemas señalaran actividad al dispararle al sospechoso Jesse Van Rootselaar para proteger la reputación de la compañía y su próxima oferta pública inicial (IPO).
El diario de Wall Street informes que OpenAI «consideró» denunciar la actividad del joven de 18 años a la policía, lo que supuestamente involucró conversaciones sobre violencia armada, pero finalmente decidió no hacerlo. Las demandas acusan a OpenAI de mentir sobre su decisión de «prohibir» a Van Rootselaar, ya que la compañía supuestamente solo desactivó la cuenta del sospechoso, quien luego creó una nueva en otro correo electrónico:
Cuando más tarde OpenAI se vio obligada a revelar que Shooter había creado una nueva cuenta, dijo una segunda mentira: afirmó que debían haber «evadido» las salvaguardas de la empresa para crear una. Pero no había salvaguardias que eludir. El tirador simplemente siguió las propias instrucciones de OpenAI para crear una nueva cuenta después de haber sido baneado. Las “salvaguardias” a las que OpenAI señaló después del ataque no fallaron; no existían.
Las familias también afirman que el diseño «defectuoso» del GPT-4o jugó un papel en el tiroteo masivo. El año pasado, OpenAI revirtió su actualización GPT-4o después de encontrarlo “demasiado halagador o agradable, a menudo descrito como adulador”. También están demandando a OpenAI y Atlman por muerte por negligencia, además de ser cómplices de un tiroteo masivo.
Altman se disculpó con la comunidad de Tumbler Ridge la semana pasada. «Lamento profundamente que no hayamos alertado a las autoridades sobre la cuenta que fue prohibida en junio». altman dijo. «En el futuro, nuestro enfoque seguirá siendo trabajar con todos los niveles de gobierno para ayudar a garantizar que algo como esto nunca vuelva a suceder».