Un adolescente de 15 años planeó un ataque a su colegio en la app y el FBI alertó a las autoridades argentinas. Qué pasa con la privacidad.
Un adolescente de 15 años de Quilmes habría utilizado ChatGPT para planificar un ataque contra su colegio y matar a compañeros. La investigación comenzó el 19 de agosto, cuando el agregado jurídico del FBI en la Embajada de Estados Unidos remitió una alerta a las autoridades argentinas.
El plan estaba pensado inicialmente para 2027, aunque también habría contemplado adelantarlo. El caso, que tomó estado público en las últimas semanas, abrió una pregunta que millones de usuarios de ChatGPT nunca se habían hecho con tanta urgencia: ¿puede ChatGPT «leer» lo que escribimos y, si lo hace, cuándo decide contárselo a la Policía?
«Se investigó a través del FBI, que dio intervención a la PFA Antiterrorismo, que tomó conocimiento de que un alumno menor de Quilmes estuvo consultando a la IA qué se necesita para llevar adelante un atentado contra un colegio y sus compañeros», explicó Alejandro De Mena, auxiliar letrado de la Fiscalía Penal Juvenil N° 1 de Quilmes.
Aunque aún no se divulgó el contenido completo de las conversaciones ni las respuestas concretas de ChatGPT —un aspecto relevante para entender si el sistema asistió o rechazó el planteo—, el episodio dejó al descubierto el funcionamiento real de las políticas de privacidad de OpenAI.
La respuesta de la compañía es clara en un punto: OpenAI sostiene que puede notificar a las fuerzas de seguridad cuando considera que existe un riesgo inminente y creíble de daño hacia terceros. La evaluación puede considerar la conversación completa y no exige que el usuario haya explicitado todos los elementos de una posible amenaza en un único mensaje. Ese fue exactamente el mecanismo que disparó el caso de Quilmes.
Qué pasa con la privacidad en ChatGPT
El caso también destruyó una idea que muchos usuarios dan por sentada: escribir en ChatGPT no equivale a mantener una conversación bajo secreto absoluto. La política de privacidad de OpenAI establece que la empresa puede compartir datos personales, incluida información sobre interacciones con sus servicios, cuando existe una obligación legal o razones vinculadas con la seguridad y la prevención de actividades ilegales.
Existe, sin embargo, una distinción importante que la compañía aclara en sus condiciones. Hay una diferencia entre usar una conversación para entrenar modelos y procesarla por motivos de seguridad. ChatGPT permite desactivar la opción «Mejorar el modelo para todos» desde la configuración, lo que impide que esas conversaciones sean usadas para entrenamiento. Pero esa desactivación no elimina los controles contra abusos: los mecanismos que detectan usos indebidos siguen activos independientemente de esa preferencia.
Lo mismo ocurre con los chats temporales, que muchos usuarios eligen creyendo que tienen mayor privacidad. Según OpenAI, estos chats no aparecen en el historial, no generan memorias, no se usan para entrenamiento y se eliminan después de 30 días. Pero durante ese período de 30 días pueden ser revisados para detectar usos indebidos, lo que incluye la posible notificación a autoridades si se detecta un riesgo grave.
El caso también expone la diferencia entre dos tipos de intervención. Una es la alerta proactiva generada por la propia OpenAI ante un riesgo inminente, como ocurrió en Quilmes. La otra es un pedido formal de información por parte de las autoridades, que sigue un proceso legal específico y requiere órdenes judiciales salvo en situaciones excepcionales vinculadas con riesgos de muerte o lesiones físicas graves.
En definitiva, el caso del adolescente de Quilmes dejó en evidencia que las conversaciones con ChatGPT no son un espacio privado en el sentido absoluto del término. La plataforma tiene mecanismos de detección activos, puede tomar decisiones sobre cuándo escalar una conversación a las autoridades y lo hace cuando considera que hay un riesgo real para la vida de otras personas. Una realidad que muchos usuarios desconocían y que este caso instaló de manera abrupta en el debate público argentino.