Anthropic bloquea intentos de usar su IA para investigación de armas biológicas
Anthropic informó que detectó y detuvo varios complots que buscaban emplear sus modelos de IA en estudios que podrían facilitar la creación de patógenos peligrosos, aunque no pudo confirmar si los fines eran legítimos o maliciosos.
La empresa de inteligencia artificial Anthropic comunicó este jueves que ha frustrado varios intentos de utilizar sus modelos de IA para investigaciones que podrían contribuir al desarrollo de armas biológicas.
Según un informe interno, la compañía detectó y bloqueó estos usos indebidos durante el presente año, optando por la medida preventiva ante el riesgo de que sus sistemas pudieran ser empleados para crear patógenos peligrosos.
Anthropic señaló que, si bien las evaluaciones de capacidad son útiles para evidenciar el potencial de la tecnología, no pueden demostrar de forma concluyente que dicha capacidad se empleará en la fabricación real de armas biológicas.
Hasta el momento, la corporación californiana no ha confirmado si los proyectos interceptados tenían fines legítimos o malintencionados, por lo que decidió bloquearlos como medida de seguridad.