ChatGPT alerta sobre plan de asesinar a hijo de 8 años; policía detiene al padre
Un hombre confesó a ChatGPT su intención de matar a su hijo de 8 años; la IA activó una alerta y la policía lo arrestó. El caso abre debate sobre la responsabilidad de los chatbots ante amenazas potenciales.
Un padre fue detenido después de que, en una conversación con el chatbot ChatGPT, admitiera que planeaba asesinar a su hijo de ocho años. La IA detectó la amenaza y, siguiendo sus protocolos internos, envió una señal a las autoridades, lo que permitió a la policía actuar de inmediato.
El incidente pone en el foco la capacidad de los sistemas de inteligencia artificial para identificar y reportar conductas peligrosas antes de que se materialicen. Actualmente, los desarrolladores de estos modelos están evaluando cómo equilibrar la detección de riesgos con la protección de la privacidad de los usuarios.
Las investigaciones continúan para esclarecer los motivos del hombre y determinar si existen fallas o aciertos en el proceso de alerta de ChatGPT. Este caso podría servir como precedente para futuras normativas que regulen la obligación de los chatbots de notificar a las fuerzas del orden cuando se detecten amenazas graves.