Opus 4.6 de Anthropic: la supuesta máquina anti‑porno se vulnera fácilmente
Aunque Anthropic prohíbe a Claude generar contenido sexual explícito, pruebas de TechCrunch demostraron que el filtro de Opus 4.6 se elude con pocos intentos.
Anthropic afirma que sus modelos Claude, incluida la versión Opus 4.6, están programados para bloquear la generación de material sexualmente explícito. Sin embargo, un conjunto de pruebas realizadas por TechCrunch reveló que bastó con simples variaciones de palabras y contextos para que el modelo produjera contenido pornográfico, poniendo en duda la efectividad de los filtros implementados. Los resultados sugieren que la restricción no es tan robusta como la empresa asegura, lo que podría generar preocupaciones sobre el control de contenido en aplicaciones de IA.