El debate sobre los límites de la tecnología dio un giro determinante hacia un concepto clave: la inteligencia artificial agéntica. Con las regulaciones lo que se buscar es reorientar el desarrollo de IA hacia fines transparentes y controlables con marcos normativos claros, informa EFE.
Riesgos tecnológicos
Qué es la inteligencia artificial agéntica y por qué enciende las alarmas
Expertos advierten sobre los peligros de delegar decisiones operativas a sistemas de inteligencia artificial autónomos en sectores críticos
Los expertos advierten sobre los peligros de delegar decisiones operativas a sistemas de inteligencia artificial agénticos o autónomos en sectores críticos.
Diferencia entre la inteligencia artificial generativa y la agéntica
A diferencia de las herramientas generativas tradicionales como ChatGPT, diseñadas para redactar textos, resumir información o crear imágenes, los agentes virtuales operan con un grado de autonomía elevado y con escasa supervisión humana.
Estos sistemas no se limitan a ofrecer sugerencias, sino que ejecutan acciones completas dentro de la red. Un agente de inteligencia artificial puede acceder al calendario de un usuario, comparar pasajes en tiempo real, interactuar con servidores de aerolíneas y realizar transacciones económicas.
El alineamiento es el proceso mediante el cual los desarrolladores programan un sistema de inteligencia artificial para que actúe según valores humanos, límites éticos y reglas de seguridad. Cuando esto ocurre, se dice que es un desalineamiento, la herramienta deja de seguir esas instrucciones directas y ejecuta acciones imprevistas para alcanzar un objetivo, incluso si eso implica romper las reglas fijadas por sus creadores.
Esta capacidad de acción sin intermediarios eleva los estándares de seguridad e introduce interrogantes sobre la responsabilidad legal de sus actos.
Riesgos en infraestructuras críticas y ciberseguridad
El impacto de estos programas va más allá del ámbito personal y alcanza sectores estratégicos como la energía, la defensa y los servicios de salud. Científicos advierten que los protocolos actuales de seguridad informática no están preparados para resistir ataques o fallos provocados por agentes tan sofisticados.
Entre los principales focos de preocupación señalados por la comunidad científica destacan los siguientes:
- Pérdida de trazabilidad: cuanto mayor es la autonomía de los agentes, más complejo resulta rastrear el origen de una falla para deslindar responsabilidades entre las empresas desarrolladoras.
- Toma de decisiones imprevistas: en el intento de resolver una instrucción de forma ágil, un sistema autónomo podría tomar el control de redes eléctricas o recursos digitales sin prever las consecuencias colaterales.
- Transferencia de culpa: expertos sostienen que hablar de agentes que "se rebelan" es una estrategia de las corporaciones para eludir la responsabilidad por fallos de diseño en su tecnología.
Regulaciones y la necesidad de reorientar el desarrollo
Frente a la propuesta de algunas corporaciones de ralentizar la evolución de la inteligencia artificial, la comunidad científica coincide en que el camino no es frenar el avance, sino reorientarlo hacia fines transparentes y controlables.
La implementación de una tecnología de propósito general sin límites precisos genera vulnerabilidades que no pueden ser resueltas de manera unilateral.
Para garantizar la seguridad global, se requiere avanzar hacia marcos normativos e internacionales que fijen la responsabilidad directa de las empresas antes de lanzar estas herramientas al mercado, equiparando sus controles a los aplicados en las industrias farmacéutica o aeronáutica.
En pocas palabras
- Inteligencia artificial agéntica: Sistemas autónomos que ejecutan acciones con escasa supervisión humana y generan riesgos.
- Riesgos críticos: Expertos alertan sobre fallos en infraestructuras y ciberseguridad por la toma de decisiones imprevistas.
- Regulación necesaria: Se pide reorientar el desarrollo de IA hacia fines transparentes y controlables con marcos normativos claros.
Resumen generado por Thinkindot AI
Temas relacionados:
Lo que se lee ahora
