En una sesión de alto nivel en la ONU, el director ejecutivo de OpenAI, Sam Altman, hizo un llamado urgente para fijar estándares internacionales que orienten el desarrollo de la inteligencia artificial. El CEO advirtió ante la asamblea sobre los peligros de la inteligencia artificial autónoma.
El insólito pedido del CEO de OpenAI ante la ONU para frenar el mayor peligro de la inteligencia artificial
Ante la ONU, el CEO de OpenAI lanzó una advertencia sobre el avance de los sistemas autónomos y reveló la medida clave para no perder el control
El CEO de OpenAI, Sam Altman, advirtió ante la ONU sobre los peligros de la inteligencia artificial autónoma.
La advertencia de OpenAI ante el Consejo de Seguridad de la ONU
El referente tecnológico advirtió que el ritmo actual exige un "extremo cuidado" para evitar que la humanidad pierda el control sobre los modelos más avanzados, informó EFE.
Recomendadas
Altman remarcó que el sector no debe asumir riesgos desmedidos impulsado únicamente por los beneficios económicos de la tecnología. En su intervención, sostuvo que si bien estos desarrollos pueden impulsar una era de progreso similar a un "Renacimiento", existe el peligro concreto de reproducir crisis históricas si los sistemas sustituyen la capacidad de decisión humana o escapan a la supervisión pública.
Los riesgos de los modelos que se mejoran a sí mismos
El foco principal de la alerta presentada ante la ONU por el líder de OpenAI apunta a los sistemas capaces de programarse y perfeccionarse de forma recursiva. Según expuso, este tipo de inteligencia artificial podría acelerar su evolución hasta un punto en que los propios creadores resulten incapaces de comprender o seguir sus decisiones.
Para evitar este escenario, las empresas solicitaron la guía de los gobiernos para definir marcos técnicos que permitan:
- Medir capacidades reales: evaluar de forma constante las herramientas antes de su despliegue masivo.
- Verificar salvaguardas: implementar mecanismos de seguridad que impidan la autonomía descontrolada del software.
- Compartir vulnerabilidades: crear canales internacionales para reportar fallos críticos entre países y empresas.
Reclamos y prohibiciones para la inteligencia artificial
Durante la misma cumbre internacional, otros referentes del sector tecnológico respaldaron la necesidad de una estrategia global. Dario Amodei, consejero delegado de Anthropic, definió a la inteligencia artificial como el problema de seguridad más importante de la actualidad y solicitó al Consejo de Seguridad medidas drásticas, entre ellas la prohibición explícita del uso de esta tecnología para la proliferación o fabricación de armas biológicas.
Sam Altman concluyó que OpenAI busca mantener tres principios rectores:
- Situar a las personas en el centro de las decisiones.
- Garantizar que el progreso potencie la capacidad humana.
- Asegurar que las herramientas permanezcan bajo estricto control y supervisión democrática.
FUENTE: EFE
En pocas palabras
- OpenAI y la ONU: El CEO Sam Altman alertó sobre los riesgos de la inteligencia artificial autónoma ante el Consejo de Seguridad.
- Riesgo de Automejora: Advirtió sobre sistemas que se perfeccionan solos, pudiendo escapar al control humano.
- Propuesta de Regulación: Se solicitó fijar estándares internacionales para medir capacidades, verificar salvaguardas y compartir vulnerabilidades.
Resumen generado por Thinkindot AI
MÁS LEÍDAS
Temas relacionados