En una inédita sesión celebrada en el seno de la ONU, los principales referentes de la inteligencia artificial expusieron los riesgos de bioseguridad que implica el desarrollo acelerado de modelos avanzados. Ejecutivos de las principales tecnológicas, piden regular el desarrollo acelerado de modelos avanzados de IA para prevenir su mal uso.
Seguridad global
La prohibición de la inteligencia artificial en armas biológicas
Las principales empresas tecnológicas solicitaron frenar el mayor peligro asociado a los modelos avanzados de inteligencia artificial. La amenaza bajo la lupa
En la ONU se debate la prohibición del uso de la inteligencia artificial para crear armas biológicas y las principales tecnológicas alertan sobre los peligros.
La alerta ante el Consejo de Seguridad de la ONU
Durante el encuentro, liderado por ejecutivos de firmas como Anthropic y OpenAI, se instó al Consejo de Seguridad a establecer acuerdos multilaterales urgentes antes de que el conocimiento biológico sintético sea plenamente accesible sin supervisión.
Recomendadas
La inquietud central radica en la capacidad de los nuevos algoritmos para analizar secuencias genéticas y diseñar patógenos. La facilidad con la que una plataforma avanzada puede procesar datos complejos redujo las barreras técnicas, elevando el peligro de que actores no estatales utilicen la informática para la creación de armas biológicas de alto impacto.
Los 3 frentes de regulación militar que debate la ONU
La propuesta presentada ante el organismo internacional contempla un marco de contención dividido en ejes estratégicos para evitar el mal uso de la inteligencia artificial:
- Restricción en el diseño de patógenos: prohibir explícitamente que los modelos de inteligencia artificial reciban entrenamiento con bases de datos virales o tóxicas que permitan optimizar agentes infecciosos o armas químicas.
- Filtros en laboratorios de síntesis: exigir a las empresas de biotecnología la verificación obligatoria de los pedidos de ADN sintético mediante software automatizado antes de su impresión física.
- Protocolos de evaluación cruzada: implementar auditorías internacionales independientes para medir la peligrosidad de un sistema antes de autorizar su lanzamiento al mercado masivo.
El reto de fiscalizar un desarrollo sin fronteras
A diferencia de las armas nucleares o convencionales, la inteligencia artificial no requiere de insumos físicos pesados para proliferar, lo que dificulta las inspecciones tradicionales de la ONU. Un modelo entrenado puede duplicarse o distribuirse digitalmente en cuestión de segundos a través de redes globales.
Las empresas del sector enfatizaron que ningún país puede gestionar este desafío de forma aislada. La creación de un organismo de verificación capaz de avanzar al mismo ritmo acelerado de la tecnología resulta indispensable para garantizar la estabilidad informática y la seguridad sanitaria global durante las próximas décadas.
En pocas palabras
- Riesgo biológico: la ONU debate la prohibición de IA para crear armas biológicas, alertan tecnológicas.
- Acuerdos urgentes: ejecutivos piden regular el desarrollo acelerado de modelos avanzados de IA para prevenir su mal uso.
- Desafío global: la IA, sin insumos físicos pesados, dificulta la fiscalización y exige verificación internacional.
Resumen generado por Thinkindot AI
MÁS LEÍDAS
Temas relacionados