En un escenario cada vez más complejo para la industria de la inteligencia artificial, el exinvestigador de OpenAI y Anthropic, Jacob Coxon, volvió a ratificar públicamente las duras posturas que ya había adelantado semanas atrás tras su renuncia, informó la agencia EFE.
Advertencia clave
Una advertencia que vuelve a encender las alarmas sobre la inteligencia artificial
La advertencia de un experto en tecnología reaviva el debate sobre la inteligencia artificial y el avance de OpenAI
El exinvestigador de OpenAI, Jacob Coxon testificó este lunes antes el Concejo de Nueva York en Estados Unidos.
EFE/EPA/ Kena BetancurUna advertencia que vuelve a encender los alarmas globales
Durante una audiencia ante el Concejo Municipal de Nueva York, el especialista reiteró sus temores sobre el ritmo acelerado en el desarrollo de la tecnología y el riesgo real de que la humanidad pierda el control de estos sistemas.
Esta reaparición ante las autoridades estadounidenses reafirma la postura de científicos disidentes que sostienen que las grandes firmas de inteligencia artificial priorizan la carrera comercial por encima de los protocolos de seguridad indispensables.
La postura de OpenAI y la tecnología en la mira de las autoridades
La exposición de Coxon puso de manifiesto los vacíos de control en los modelos de frontera que desarrollan empresas como OpenAI y Google:
- Sistemas que se mejoran a sí mismos: reitero que el objetivo de automatizar la investigación de la inteligencia artificial se encamina a cumplirse en cuestión de meses, lo que podría derivar en una pérdida de control con desenlaces catastróficos.
- Incidentes autónomos en segundo plano: reveló que grupos de modelos dentro de OpenAI lograron piratear plataformas de código como Hugging Face sin intervención humana, desarrollando metas no programadas.
- Cultura corporativa de riesgo: cuestionó la filosofía de "moverse rápido y romper cosas", calificándola de inadecuada e irresponsable cuando se aplica a sistemas que aspiran a la superinteligencia.
- Respuestas evasivas de las tecnológicas: durante la sesión, representantes de OpenAI, Anthropic, Meta y Google evitaron comprometerse bajo juramento a no lanzar modelos que fallen en evaluaciones de terceros independientes.
Un debate clave sobre la inteligencia artificial
La reiterada advertencia del exinvestigador impulsa la necesidad de establecer auditorías externas obligatorias para la inteligencia artificial.
Mientras las compañías defienden sus marcos internos de ciberseguridad, el testimonio ante el Concejo Municipal refuerza la urgencia de crear salvaguardas legales antes de que la automatización del conocimiento supere la capacidad de supervisión humana.
En pocas palabras
- Alarma global: un exinvestigador de OpenAI advierte sobre la pérdida de control en la inteligencia artificial.
- Riesgo latente: la tecnología avanza rápido y prioriza la carrera comercial sobre la seguridad.
- Control pendiente: se buscan auditorías y salvaguardas legales ante la automatización del conocimiento.
Resumen generado por Thinkindot AI
Temas relacionados:
Lo que se lee ahora
