Dario Amodei propone “marcar el ritmo” del desarrollo de IA y enfrenta críticas
El CEO de Anthropic, Dario Amodei, plantea un plan para “marcar el ritmo” de la IA mediante evaluadores de seguridad independientes y coordinación entre laboratorios de países democráticos, recibiendo apoyo y la oposición de Jensen Huang de Nvidia.
Una semana después de que un investigador de Anthropic lanzara una advertencia apocalíptica sobre los riesgos de la IA, su director ejecutivo, Dario Amodei, presentó una propuesta para “marcar el ritmo” del avance tecnológico.
El esquema se basa en la creación de evaluadores de seguridad independientes que certifiquen los sistemas antes de su despliegue y en la coordinación de laboratorios de inteligencia artificial de naciones democráticas, con el objetivo de evitar una carrera descontrolada.
La iniciativa ya ha recibido el respaldo de varios actores de la industria, que ven en ella una vía para equilibrar innovación y responsabilidad. Sin embargo, Jensen Huang, fundador y CEO de Nvidia, ha expresado su escepticismo, argumentando que la propuesta podría frenar el progreso y limitar la competitividad de los EE. UU.
Amodei insiste en que la medida es necesaria para garantizar que la IA beneficie a la sociedad sin comprometer la seguridad, y llama a una conversación global que incluya a gobiernos, investigadores y empresas.