¿Se podía haber evitado la tragedia?
Hace unos días, un remoto pueblo de montaña de Canadá fue sacudido por por una tragedia. En un tiroteo escolar, un asaltante armado mató al menos a ocho personas.
La policía encontró a seis personas muertas y docenas heridas al llegar a la escuela secundaria de Tumbler Ridge, una ciudad de tan solo 2.400 personas en el noreste de la provincia de Columbia Británica, a primera hora de la tarde del martes.
Se cree que la presunta asesina, que fue encontrada muerta en la escuela, mató a otras dos personas más antes de suicidarse, ya que se encontraron dos cuerpos más en una casa en el municipio.
El rol de OpenAI
A raíz de esta tragedia, la investigación se ha centrado en la actividad en línea de la sospechosa, Jesse Van Rootselaar, revelando detalles acerca de su uso de ChatGPT.
OpenAI, la empresa que ofrece ChatGPT, confirmó que en junio de 2025 detectó que una cuenta vinculada a Van Rootselaar violó las políticas de uso de la plataforma. Posteriormente, la cuenta fue dada de baja.
Según OpenAI, la actividad de la asesina incluía descripciones de violencia causada por armas de fuego. Esto activó el sistema de revisión automatizado del chatbot, y generó preocupación entre los empleados de OpenAI de que estas publicaciones pudieran ser la antesala de actos de violencia en el mundo real.
Si bien algunos empleados instaron a los líderes de la empresa a contactar a las fuerzas del orden, OpenAI finalmente decidió no hacerlo. La empresa determinó que la situación no era suficientemente seria, ya que no involucraba un «riesgo inminente y creíble» o la planificación activa de daños físicos graves a otros.
La portavoz de OpenAI, Kayla Wood, declaró que el objetivo de la empresa es buscar un justo balance entre privacidad y seguridad, con el objetivo de evitar crear problemas innecesarios involucrando demasiado a menudo a las fuerzas del orden.
OpenAI se puso en contacto con la policía después del tiroteo
A pesar de haber tomado una decisión equivocada en este caso, la empresa se comunicó voluntariamente con la Policía Real Montada de Canadá (RCMP) y les dió información sobre Van Rootselaar y su uso de ChatGPT, después del tiroteo.
El sargento de la RCMP, Kris Clark, confirmó que la plataforma se puso en contacto con ellos después del incidente. Afirmó que la policía está recopilando y procesando metódicamente todo tipo de pruebas, incluyendo la revisión exhaustiva de los dispositivos electrónicos de la sospechosa, para analizar sus actividades en línea, en particular en las redes sociales. Por otra parte, YouTube y Roblox han confirmado que habían eliminado cuentas y contenido asociadas con la sospechosa.
¿OpenAI fue responsable?
Estas situaciones son complicadas y es difícil echarle la culpa a ChatGPT.
Lo positivo es que tienen un sistema para detectar situaciones preocupantes y que aparentemente funcionó correctamente, generando una alerta a tiempo.
Pedirle a ChatGPT (o a cualquier otra empresa de IA o de redes sociales) que determine exactamente cuando es necesario informar a las autoridades puede ser mucha responsabilidad para una empresa comercial.
Por otro lado, informar de cualquier problema a la policía tiene implicaciones de privacidad. Además de que es poco probable que ellos tengan la capacidad de atender todas las alertas que pudieran llegarles. Habrá que ver como deciden los legisladores atender este tipo de situaciones.
Comunicado del padre
El padre de la asesina emitió un comunicado en el que expresó su tristeza y enfatizó que estaba distanciado de su hija. Afirmó que ya no estaba involucrado en su vida y que ella ya no usaba el apellido Van Rootselaar. También transmitió su desconsuelo por el dolor causado a personas inocentes y al pueblo de Tumbler Ridge.
La RCMP señaló que Jesse Van Rootselaar nació con sexo masculino pero que había comenzado su transición de sexo.
Deja una respuesta