Un importante CEO de una de las empresas líderes en Inteligencia Artificial lanzó una dura advertencia sobre los avances de la IA: "Podría matarnos a todos".
Mundo
Un importante CEO y experto en Inteligencia Artificial lanzó una dura advertencia: "Podría matarnos a todos"
Un importante CEO de una de las empresas líderes en Inteligencia Artificial lanzó una dura advertencia sobre los avances de la IA: "Podría matarnos a todos"
La declaración fue realizada al responder en X a Jacob Coxon, un investigador de 27 años que acababa de renunciar a Anthropic luego de haber trabajado también en OpenAI.
La advertencia llegó desde dentro de una de las empresas líderes en Inteligencia Artificial. Evan Hubinger, responsable de un equipo de seguridad de Anthropic, aseguró públicamente que estima en más de un 10% la posibilidad de que sistemas de IA provoquen la muerte de toda la humanidad durante los próximos diez años.
La declaración fue realizada al responder en X a Jacob Coxon, un investigador de 27 años que acababa de renunciar a Anthropic luego de haber trabajado también en OpenAI.
Coxon cuestionó que ambas compañías estén avanzando hacia modelos cada vez más potentes sin contar, según su mirada, con herramientas suficientes para controlar los riesgos.
“Ninguna de las dos empresas actúa con responsabilidad”, escribió Coxon. El especialista afirmó que las firmas corren hacia una superinteligencia capaz de mejorarse por sí misma y que esa carrera implica una apuesta con consecuencias potencialmente irreversibles.
Hubinger coincidió con el diagnóstico. “Jacob tiene razón”, respondió. Luego sostuvo que dentro de Anthropic consideran posible que la inteligencia artificial represente una amenaza extrema y calculó un riesgo superior al 10% para la próxima década.
El punto central de la discusión es la llamada alineación: la capacidad de lograr que un sistema de inteligencia artificial muy avanzado mantenga objetivos, límites y valores compatibles con los de las personas que lo diseñaron.
Hubinger reconoció que Anthropic todavía no cuenta con un plan definitivo para resolver ese problema en una eventual superinteligencia.
Coxon había trabajado desde 2023 en OpenAI, donde participó en tareas de preentrenamiento y en desarrollos vinculados a GPT-4o. En julio se sumó a Anthropic atraído por la reputación de la empresa en materia de seguridad, pero dejó la compañía apenas dos meses después.
En declaraciones a medios estadounidenses, el investigador sostuvo que el sector se dirige hacia escenarios cada vez más agresivos y advirtió que, para fines de 2027, algunos desarrollos podrían quedar fuera de control.
También cuestionó que decisiones de semejante alcance queden en manos de empresas privadas y grupos reducidos de ingenieros.
La renuncia de Coxon se suma a otros casos de especialistas que dejaron compañías de inteligencia artificial por diferencias sobre el ritmo de desarrollo y la prioridad dada a la seguridad.
En 2024, Jan Leike renunció a OpenAI y afirmó que la cultura de protección había perdido peso frente al impulso por lanzar productos.
El debate se profundiza mientras Anthropic y OpenAI aceleran la competencia por crear modelos más capaces. La advertencia de Coxon y Hubinger no describe un hecho inevitable, sino una estimación de riesgo hecha por investigadores del sector, pero volvió a instalar una pregunta cada vez más incómoda: ¿la carrera por una inteligencia artificial más poderosa avanza más rápido que la capacidad de controlarla?
Fuente: wsj.com
En pocas palabras
- Advertencia de CEO: un directivo de Anthropic estima en más del 10% la posibilidad de que la IA cause la muerte de la humanidad.
- Riesgos sin control: investigadores critican la carrera hacia modelos más potentes sin herramientas de seguridad adecuadas.
- Debate de seguridad: la renuncia de expertos y la aceleración de la competencia plantean dudas sobre el control de la IA.
Resumen generado por Thinkindot AI
