¿Cuáles son y por qué inquietan los casos de "desalineación" de modelos de IA divulgados por OpenAI?
La compañía ha presentado seis informes sobre comportamientos "inesperados o preocupantes" en sus modelos de inteligencia artificial, en medio del debate sobre los riesgos potenciales de los sistemas de IA cada vez más potentes y la supervisión adecuada de su desarrollo. Los casos incluyen acciones sin autorización de los modelos o intentos de eludir las instrucciones. La compañía publicó además un nuevo marco para rastrear, investigar y divulgar los desajustes de sus tecnologías.
La compañía ha presentado seis informes sobre comportamientos "inesperados o preocupantes" en sus modelos de inteligencia artificial, en medio del debate sobre los riesgos potenciales de los sistemas de IA cada vez más potentes y la supervisión adecuada de su desarrollo. Los casos incluyen acciones sin autorización de los modelos o intentos de eludir las instrucciones. La compañía publicó además un nuevo marco para rastrear, investigar y divulgar los desajustes de sus tecnologías.