Un informe de Anthropic reveló que actores vinculados al Gobierno de Irán utilizaron el modelo de inteligencia artificial Claude para apoyar operaciones de vigilancia y planificar posibles ataques contra Estados Unidos. La empresa documentó durante ocho meses varios usos indebidos de sus sistemas, incluidos intentos de sortear restricciones de acceso y actividades relacionadas con propaganda y ciberoperaciones, informó EFE.
Actores vinculados a Irán utilizaron el modelo de inteligencia artificial Claude de Anthropic para vigilancia.
Cómo Irán accedió a Claude y qué operaciones realizó
Según Anthropic, usuarios iraníes emplearon VPN y números de teléfono extranjeros para acceder a Claude, que no está disponible oficialmente en el país.
El informe detalla que un grupo de ciberdelincuentes vinculado a Irán utilizó la plataforma para elaborar recomendaciones de ataque contra fuerzas navales estadounidenses en la región.
La empresa advirtió que sus modelos pueden procesar grandes volúmenes de información sobre disidentes, periodistas, activistas y políticos, facilitando sistemas de vigilancia ya existentes.
Usos indebidos globales y riesgos crecientes de la IA autónoma
Anthropic también detectó usos indebidos de Claude en China, Rusia y Yemen, relacionados con armas convencionales y operaciones cibernéticas.
La compañía bloqueó estos intentos ante el riesgo de que sus modelos contribuyeran al desarrollo de patógenos peligrosos, aunque reconoció que no siempre es posible determinar si las investigaciones tenían fines legítimos o maliciosos.
El informe advierte que la creciente autonomía de la inteligencia artificial está reduciendo las barreras técnicas y económicas para actividades peligrosas, alimentando la preocupación de expertos sobre el uso dual de estos sistemas y su potencial para facilitar operaciones ofensivas.
El caso de Irán evidencia cómo la inteligencia artificial puede ser utilizada para fines estratégicos y potencialmente peligrosos, incluso cuando existen restricciones de acceso.
Para Estados Unidos y la comunidad internacional, el informe de Anthropic refuerza la urgencia de establecer controles más estrictos sobre el uso de modelos avanzados de la inteligencia artificial y sus riesgos emergentes.
En pocas palabras
- Irán usó IA: actores vinculados a Irán utilizaron el modelo Claude de Anthropic para vigilancia.
- Plan de ataques: la IA fue empleada para planificar posibles ataques contra Estados Unidos y recomendaciones de ataque naval.
- Riesgos globales: el uso indebido de IA por Irán y otros países eleva la preocupación sobre su potencial uso malicioso.
Resumen generado por Thinkindot AI
Temas relacionados:
Lo que se lee ahora
