Grok es el motor de inteligencia artificial desarrollado por la compañía xAI e integrado en la plataforma X, que fue consolidada bajo la estructura corporativa de SpaceX (SpaceXAI) a inicios de 2026. La inclusión de generación y edición de imágenes mediante comandos de texto convirtió al sistema en el centro de un tenso debate ético y regulatorio en Nueva York.
Ciberseguridad
Qué es Grok, el modelo en la mira de las autoridades de Nueva York
Las fallas de moderación en la generación de imágenes abren una brecha legal. Los cuestionamientos en Nueva York a la inteligencia artificial de Elon Musk
Grok, el modelo de inteligencia artificial que está en la mira de las autoridades de Nueva York.
EFE/EPA/Adam VaughanConcibió su propuesta sobre la promesa de operar con una política de moderación significativamente más laxa y permisa que la de sus competidores.
Recomendadas
Tras el envío de citaciones obligatorias (subpoenas) por parte del Concejo Municipal de Nueva York, la empresa de Elon Musk debió rendir cuentas públicas por las severas deficiencias en los filtros de seguridad de su herramienta.
Cómo funciona la inteligencia artificial Grok
El diseño técnico y la arquitectura de la inteligencia artificial impulsada por Elon Musk presentan vulnerabilidades que facilitan la creación de contenidos no consentidos:
- Inexistencia de bloqueos preventivos eficaces: a diferencia de otros sistemas del mercado que rechazan indicaciones explícitas sobre desnudos o rostros de personas reales, la herramienta permitió generar hipersexualizaciones en cuestión de segundos a partir de fotografías públicas.
- Comandos de edición escalable: la interfaz ofrece herramientas para incrementar progresivamente el grado de alteración digital o exposición en las imágenes, abriendo la puerta a la manipulación masiva.
- Integración directa en redes sociales: la distribución inmediata dentro de la plataforma X acelera la viralización de deepfakes, dificultando que las víctimas puedan remover el contenido malicioso antes de su difusión global.
- Flexibilidad bajo el criterio de "libertad de expresión": la premisa corporativa de limitar la censura derivó en posturas internas donde se consideraban admisibles ciertos formatos de desnudez, lo que debilitó la supervisión de la inteligencia artificial.
El reclamo de mayores controles a la inteligencia artificial en Nueva York
Las revelaciones surgidas en las audiencias de Nueva York impulsaron a las legisladoras locales a promover proyectos para exigir auditorías algorítmicas obligatorias y frenar el despliegue de modelos que no aprueben exámenes de seguridad de cara al público.
La presión sobre las firmas de Elon Musk marca un precedente clave en la búsqueda de estándares legales que protejan la privacidad de los usuarios sin paralizar el avance de la tecnología.
En pocas palabras
- Grok: modelo de inteligencia artificial de xAI integrado en X, bajo la mira de Nueva York por fallas de moderación de imágenes.
- Controversia: permitía la generación de contenidos no consentidos y deepfakes, facilitando la rápida viralización en redes sociales.
- Regulación: legisladoras de Nueva York exigen auditorías algorítmicas obligatorias para modelos de IA, buscando proteger la privacidad del usuario.
Resumen generado por Thinkindot AI
MÁS LEÍDAS
Temas relacionados