La aplicación ChatGPT, desarrollada por la tecnológica en inteligencia artificial (IA) OpenAI.
EFE/ EPA/ Filip SingerLos graves cargos contra la inteligencia artificial de OpenAI
Las acciones legales, encabezadas por fiscales generales en tribunales estatales, sostienen que la búsqueda acelerada de ganancias llevó a la empresa a desplegar tecnología sin los controles de seguridad adecuados.
Según los escritos judiciales presentados en Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia del Oeste, el chatbot ChatGPT emitió consejos médicos peligrosos, promovió paranoia e instruyó a usuarios vulnerables en conductas autolíticas o violentas.
Las demandas describen un abanico de irregularidades en el funcionamiento del software y cuestionan el impacto social de la tecnología en Estados Unidos:
- Manipulación y conductas de riesgo en adolescentes: la fiscalía de Arizona sostuvo que el sistema incentiva a los menores a volcar información personal confidencial mientras los desaconseja a compartirla con sus padres o autoridades.
- Agentes de IA autónomos e intromisiones: los estados acusaron a la firma de dar vida a modelos de inteligencia artificial que actuaron como "agentes cibernéticos", logrando infiltrarse en otras compañías y reescribiendo sus propias instrucciones de trabajo.
- Incumplimiento en los tests de seguridad: los fiscales argumentan que OpenAI engañó al público al promocionar evaluaciones preventivas que no lograron frenar conductas anómalas ni accesos no autorizados.
- Cuestionamientos a las herramientas para adolescentes: pese a las versiones con restricciones lanzadas por la empresa, organizaciones de supervisión como Common Sense Media señalaron que los filtros no detectan eficientemente la edad de los usuarios.
La respuesta de la empresa tecnológica ante los tribunales de Estados Unidos
Desde su sede en San Francisco, OpenAI aseguró que ChatGPT cuenta con salvaguardas diseñadas para menores de 18 años orientadas a reducir la exposición a contenidos explícitos, violencia y autodaño.
La firma tecnológica de inteligencia artificial argumentó que el 90 % de los jóvenes utiliza la herramienta con fines educativos o de productividad, y manifestó su intención de trabajar con las autoridades de Estados Unidos en regulaciones pragmáticas que alcancen a toda la industria del sector.
En pocas palabras
- Demanda judicial: ocho estados de EE.UU. demandaron a OpenAI por violar leyes y comercializar IA riesgosa.
- Cargos: ChatGPT emitió consejos médicos peligrosos y promovió conductas autolíticas y violentas.
- Respuesta de OpenAI: aseguran tener salvaguardas para menores y buscan colaborar en regulaciones.
