La provincia canadiense de Columbia Británica anunció que prepara una demanda contra la empresa de Inteligencia Artificial OpenAI por no haber reportado a las autoridades la actividad sospechosa detectada en ChatGPT por parte de la autora de un tiroteo escolar ocurrido en la localidad de Tumbler Ridge, donde murieron ocho personas.
“La provincia está preparando acciones legales para responsabilizar a la empresa y a quienes toman sus decisiones por su fracaso para notificar a las fuerzas de la ley las solicitudes violentas hechas en su plataforma ChatGPT por el perpetrador antes de la tragedia en Tumbler Ridge”, afirmó Sharma durante una conferencia de prensa.
La atacante fue identificada como Jesse Van Rootselaar, una joven transgénero de 18 años que protagonizó el ataque en el pequeño pueblo minero situado en el noreste de Columbia Británica. La investigación posterior reveló que OpenAI había suspendido una cuenta asociada a ella en junio de 2025, aproximadamente ocho meses antes de la masacre.
Según explicó la compañía, la decisión de bloquear el acceso se tomó luego de detectar un uso que podía estar relacionado con actividades violentas. Sin embargo, la empresa sostuvo que no existían elementos suficientes para concluir que se preparaba un ataque concreto o inminente, motivo por el cual no se realizó ninguna comunicación a la policía ni a otros organismos de seguridad.
La revelación abrió un fuerte debate en Canadá y en otros países sobre el rol que deben asumir las plataformas de inteligencia artificial cuando detectan comportamientos potencialmente peligrosos entre sus usuarios.
El caso plantea una pregunta compleja: ¿hasta dónde llega la obligación de proteger la privacidad de las conversaciones y en qué momento prevalece la necesidad de prevenir un posible delito?
Desde OpenAI señalaron que, tras el ataque, la compañía reforzó sus mecanismos de seguridad y revisó sus protocolos internos para responder de manera más efectiva ante señales de riesgo o situaciones de angustia extrema.
“Aplicamos una política de tolerancia cero respecto al uso de nuestras herramientas para ayudar a cometer actos de violencia”, sostuvo un portavoz de la empresa en una declaración escrita difundida este martes.
La discusión se produce además en medio de un creciente impulso regulatorio sobre la inteligencia artificial en Estados Unidos y Canadá. En los últimos meses, varios estados norteamericanos aprobaron leyes destinadas a aumentar las exigencias de transparencia y rendición de cuentas para las compañías que desarrollan modelos avanzados de IA.
La demanda de Columbia Británica podría convertirse en uno de los primeros casos judiciales del mundo destinados a definir si una empresa de inteligencia artificial tiene la obligación legal de alertar a las autoridades cuando detecta indicios de violencia en sus plataformas, incluso cuando no existe evidencia de un peligro inmediato.
Fuente TN
