A partir de una inquietante conversación con ChatGPT que activó una alerta en Estados Unidos, la Policía Federal Argentina logró frustrar el plan de un joven de 15 años que proyectaba un ataque en su escuela para matar a varios compañeros, utilizando asesoramiento de inteligencia artificial.
A diferencia de otras denuncias que podrían interpretarse como fantasías adolescentes, en este caso se halló material concreto: en el domicilio del joven, en Quilmes, se secuestraron elementos tácticos, indumentaria y material fílmico, los cuales ya fueron incorporados a la investigación.
La pesquisa comenzó el 19 de agosto, tras una alerta enviada por el Agregado Jurídico del FBI en la Embajada de Estados Unidos en Argentina. Esta señalaba a un usuario de Gmail que mantenía una conversación con ChatGPT donde describía sus planes para realizar un tiroteo en una escuela, inicialmente previsto para 2027, aunque manifestaba la intención de adelantar la fecha.
Fuentes oficiales confirmaron a Clarín que uno de los aspectos que generó preocupación fue el marcado interés del joven en adquirir vestimenta y cuchillos tácticos. En los diálogos con la inteligencia artificial, también indicó que era menor de edad.
Con base en esta información, se activó un protocolo que derivó la alerta al FBI en primer lugar y luego a las autoridades argentinas. «El FBI investigó y dio intervención a la PFA Antiterrorismo, que tomó conocimiento de que un alumno menor de Quilmes consultaba a la IA sobre qué se necesita para concretar un atentado contra un colegio y sus compañeros», explicó Alejandro de Mena, auxiliar letrado de la Fiscalía Penal Juvenil N° 1 de Quilmes, a cargo del caso.
En declaraciones a Radio Mitre, De Mena brindó detalles adicionales y destacó que la investigación se mantiene bajo estricto secreto debido a la edad del imputado. «Se identificó el origen de la búsqueda a partir del IP de la conexión, llegando a la zona de Quilmes», precisó, y añadió que se realizó un operativo de oficio.
Tras recibir el informe del FBI, se ordenaron las primeras directivas para avanzar con la investigación, que incluyó análisis de fuentes abiertas, monitoreo de redes sociales y vigilancia en el domicilio señalado. Entre los elementos recolectados figuraban consultas a la IA y conversaciones con otras personas en el extranjero vinculadas al plan.
Ocho días después de la alerta estadounidense, el 28 de agosto, un grupo comando allanó la vivienda. «El operativo fue positivo porque se logró una fotografía del menor probándose máscaras», relató De Mena.
Durante el allanamiento se secuestraron dos teléfonos celulares, dos pares de guantes tácticos, un gorro tipo piluso con camuflaje militar, una balaclava con diseño de calavera, un pasamontañas camuflado y gafas de protección táctica negras. Los dispositivos serán peritados para obtener más información sobre el plan.
El joven está acusado de intimidación pública en grado de tentativa y no prestó declaración en el momento del allanamiento. La Fiscalía de Responsabilidad Penal Juvenil Nº 1, bajo la dirección del doctor Walter Bruno, interviene en la causa.
Según las normas de OpenAI, cuando se detectan indicios de daño potencial grave en el mundo real, el caso se remite a un nivel superior para una investigación más exhaustiva. Este procedimiento se reserva para situaciones de riesgo elevado, con el fin de garantizar que sean evaluadas con contexto y conocimientos especializados adicionales. Cuando se identifica un riesgo inminente y creíble de daño a terceros, la empresa notifica a las autoridades policiales.
La política de privacidad de OpenAI también estipula que pueden compartir información personal del usuario para proteger la seguridad y la integridad de sus productos, empleados, usuarios o el público en general.
Este no es el primer caso en que OpenAI alerta a las autoridades ante un posible delito. En abril pasado, un hombre de 37 años en Francia consultó a ChatGPT sobre cómo obtener un arma semiautomática para «matar a un agente de inteligencia» de la CIA, Mossad o la Dirección General de Seguridad Interior (DGSI). Horas después fue detenido, según informó Le Figaró, que también entrevistó a un vocero de OpenAI para conocer el proceso de alerta.
El procedimiento inicia con la detección automática de elementos que sugieren daño potencial a terceros, que luego revisan moderadores humanos. Si estos confirman una amenaza inminente de daño grave, se informa a las autoridades.
En agosto, otro aviso de OpenAI al FBI contribuyó a la detención de un hombre que planeaba asesinar a su exnovia, tras mantener conversaciones con ChatGPT en las que detallaba sus planes. Darren Zhou, exanalista de Goldman Sachs y graduado con honores de la Universidad del Nordeste de Boston, fue acusado de discutir con la IA sus intenciones de violar y matar a su ex pareja.
En uno de los mensajes, el imputado escribió: «La voy a matar para fin de mes, si no es mía no quiero que nadie la tenga». Según USAToday, Zhou comenzó en marzo a planificar el crimen a través de la IA. La policía, tras contactar a la víctima y recibir denuncias por amenazas, detuvo al hombre en mayo. En un juicio abreviado, Zhou reconoció su culpabilidad para evitar una condena de casi 25 años por acecho agravado y amenazas de muerte.