Claude de Anthropic bajo sospecha de uso para armas biológicas
Anthropic detectó cinco intentos de usar su IA Claude en investigaciones biológicas riesgosas. Bloqueó o limitó las cuentas, sin confirmar si había mala intención.
El laboratorio de inteligencia artificial Anthropic, liderado por Dario Amodei, publicó el 10 de septiembre un informe titulado "Detectando y combatiendo el uso indebido de la IA". En él se reconoce haber identificado cinco casos en los que investigadores intentaron emplear Claude, su modelo avanzado, para estudios biológicos potencialmente peligrosos.
Los usuarios intentaron eludir los filtros de seguridad y ocultar la finalidad de sus proyectos. Ante ello, Anthropic tomó medidas restrictivas: cerró las cuentas involucradas o les concedió acceso únicamente a versiones menos potentes del modelo.
El laboratorio admite que no pudo determinar con certeza si los intentos tenían un propósito malicioso o bien estaban orientados a la investigación legítima. No obstante, el intento de ocultar el objetivo se interpreta como una señal de posible uso pernicioso, lo que reaviva el debate sobre la regulación y vigilancia de la IA en contextos biotecnológicos.