🔴 ÚLTIMA HORA:
Negocios

La IA “te necesita”: las contundentes frases de Dario y Daniela Amodei en el debut de Anthropic

En su debut bursátil, los fundadores de Anthropic hablaron sobre el futuro de la IA, su potencial para transformar la medicina y el trabajo, y los riesgos de desarrollar sistemas que podrían escapar del control humano.

Por: Redacción InteractPostNews | Negocios ·
La IA “te necesita”: las contundentes frases de Dario y Daniela Amodei en el debut de Anthropic

Anthropic , la empresa de inteligencia artificial (IA) detrás de Claude, debutó este 19 de noviembre en el Nasdaq bajo el símbolo ANT. La salida a la bolsa representa un nuevo capítulo para la compañía fundada en 2021 que busca competir en el mercado de la IA avanzada, pero también coloca la seguridad y el desarrollo responsable de esta tecnología en el centro de su discurso. Durante la ceremonia, los hermanos Daniela y Dario Amodei , cofundadores de Anthropic, compartieron su visión del futuro en la que la IA podría acelerar descubrimientos médicos, transformar las operaciones de las empresas y modificar la relación de las personas con la tecnología. Sin embargo, también reconocieron riesgos que van desde la disrupción económica hasta la posibilidad de perder el control de los sistemas de IA.

“Esta tecnología te necesita. No tu confianza, ni que la uses, sino tu voz” “Queremos que Claude te devuelva tu tiempo”

Daniela Amodei, presidenta y cofundadora de Anthropic, cerró su intervención con un mensaje dirigido especialmente a quienes sienten incertidumbre sobre el avance de la inteligencia artificial. “Finalmente, a cualquiera que nos vea y sienta inquietud por la IA o no sepa qué significará para su vida: esta tecnología te necesita. No tu confianza, ni que la uses, sino tu voz. El final de esta historia todavía no está escrito”, expresó. La declaración refuerza uno de los principales argumentos de Anthropic sobre la importancia de que las decisiones acerca del desarrollo de la inteligencia artificial no queden exclusivamente en manos de las empresas tecnológicas. La compañía nació como una corporación de beneficio público, una figura jurídica que, desde la visión de sus fundadores, le exige considerar el interés público junto con los rendimientos para sus accionistas. Según Daniela, esta estructura explica decisiones como contar con un equipo de seguridad antes del lanzamiento de su primer producto y mantener a Claude sin publicidad. La ejecutiva también defendió una visión de la inteligencia artificial distinta a la de las plataformas digitales que compiten por mantener a los usuarios frente a sus pantallas. “Muchas tecnologías buscan ocupar tu tiempo. Nosotros queremos que Claude te lo devuelva”, afirmó. Como ejemplo, mencionó el caso de una directora escolar en São Paulo que utilizó Claude para analizar los registros académicos de sus estudiantes . Una tarea que anteriormente le tomaba 30 días pasó a realizarse en minutos, según el testimonio que presentó Anthropic. También habló de una empresa de Massachusetts que utilizó Claude para desarrollar herramientas compatibles con un sistema informático de 40 años de antigüedad y reducir a la mitad sus tiempos de entrega, que antes oscilaban entre seis y diez semanas.

“Podríamos comprimir un siglo de progreso científico y médico en una década” “Los riesgos van desde la disrupción económica hasta perder el control de los sistemas de IA”

Dario Amodei, director ejecutivo de Anthropic, dedicó buena parte de su discurso al potencial de la inteligencia artificial para acelerar los descubrimientos científicos. “Creo que una IA suficientemente poderosa, que trabaje en conjunto con los humanos, podría comprimir un siglo de progreso científico y médico en una década”, aseguró. Amodei recordó que él y su hermana perdieron a su padre por una enfermedad que encontró cura pocos años después de su fallecimiento. Esa experiencia lo llevó a iniciar su carrera en biología con la intención de contribuir al desarrollo de tratamientos. Durante su intervención mencionó aplicaciones de Claude en áreas como el estudio de proteínas, el diseño de medicamentos, la genética del cáncer y la administración de ensayos clínicos. Sin embargo, reconoció que los resultados todavía son preliminares y que los experimentos y las pruebas clínicas requieren tiempo. El optimismo sobre las aplicaciones de Claude también estuvo acompañado de una advertencia sobre los peligros de la tecnología. “Estos riesgos van desde el uso indebido de la tecnología por individuos o Estados, hasta la disrupción económica y la pérdida de control de los sistemas de IA”, dijo Amodei. El directivo aclaró que Anthropic no considera inevitables estos escenarios y que, precisamente por esa razón, busca desarrollar mecanismos para prevenirlos. La preocupación por perder el control de sistemas cada vez más capaces forma parte del debate sobre los riesgos existenciales de la inteligencia artificial. Este escenario contempla la posibilidad de que modelos avanzados actúen de maneras que sus desarrolladores no puedan supervisar, limitar o detener adecuadamente, con consecuencias potencialmente graves. Anthropic investiga técnicas para comprender el funcionamiento interno de sus modelos, evaluar sus comportamientos y establecer salvaguardas frente a riesgos biológicos y cibernéticos. La compañía también desarrolla métodos de entrenamiento que buscan mantener los sistemas alineados con las instrucciones y objetivos humanos.

“No cederemos ante presiones empresariales ni políticas” “No importa qué empresa tenga los mejores modelos”

Una de las declaraciones más contundentes de Dario Amodei estuvo relacionada directamente con el nuevo papel de Anthropic como empresa que cotiza en bolsa. “Regularemos el ritmo de entrenamiento y despliegue de los sistemas de IA, y nos tomaremos todo el tiempo necesario para tener confianza en que son seguros y permanecerán bajo control humano. No cederemos ante presiones empresariales ni políticas”, afirmó. La promesa adquiere una dimensión particular después de la IPO, pues Anthropic deberá responder a las expectativas de sus accionistas mientras compite con otras empresas que desarrollan modelos de inteligencia artificial. Amodei sostuvo que la mayor parte del trabajo en materia de seguridad todavía está por delante y que los equipos responsables de construir los sistemas más avanzados deberán dedicar más esfuerzos a comprobar su comportamiento. Para cerrar su intervención, Dario Amodei defendió una competencia entre empresas de inteligencia artificial en la que la seguridad tenga tanta importancia como las capacidades de sus productos. “Cuando la carrera hacia la cima funciona correctamente, no importa qué empresa tenga los mejores modelos. Todos ganan porque todos desarrollan sistemas de manera segura”, aseguró. Anthropic denomina a esta idea una “carrera hacia la cima”, en contraste con una competencia en la que las empresas podrían reducir sus medidas de seguridad para lanzar modelos cada vez más poderosos antes que sus rivales. El directivo afirmó que el objetivo no consiste únicamente en que Anthropic lidere el mercado, sino en elevar los estándares de toda la industria, independientemente de qué compañía encabece la competencia tecnológica.

]]>

Te puede interesar

Publicidad
Ver todas las ofertas →