El ingeniero británico Jacob Coxon, que trabajó en Anthropic y durante tres años en OpenAI, presentó su renuncia denunciando que ambas compañías “no están actuando con responsabilidad” y que están “jugando con nuestras vidas”. Según explicó, quienes desarrollan los modelos más avanzados de inteligencia artificial creen que la tecnología podría convertirse en una amenaza extrema antes de que termine la década.
Un ingeniero que trabajó en OpenAI y Anthropic alerta que la inteligencia artificial "podría matarnos a todos"
El ingeniero Jacob Coxon advirtió que la inteligencia artificial podría causar la extinción de la humanidad antes de que finalice la década
Un ingeniero con experiencia en OpenAI y Anthropic dimitió, alertando sobre los riesgos de la inteligencia artificial.
“La IA podrá matarnos a todos”: la advertencia del ingeniero
Coxon, identificado como uno de los desarrolladores de GPT4o y GPT4.5, afirmó que se está subestimando el poder real de la tecnología. Sostiene que los sistemas de inteligencia artificial pronto serán “sobrehumanos”, capaces de hackear cualquier cosa, transformar sectores completos y acumular poder y recursos, informó EFE.
Recomendadas
Según su testimonio, tanto OpenAI como Anthropic son conscientes del riesgo, aunque dice la primera “no ha internalizado en profundidad los retos civilizacionales”, mientras que la segunda los comprende pero está atrapada en la carrera por llegar primero.
Críticas a los laboratorios y pedido de frenar el avance de los modelos
Coxon pidió una coordinación entre los principales proyectos de inteligencia artificial y medidas “costosas”, como una prohibición temporal de mejorar las capacidades de los modelos, hasta que existan garantías suficientes de seguridad.
También instó a los investigadores a reflexionar sobre el desarrollo de sistemas avanzados sin entender completamente su funcionamiento interno.
El investigador de Anthropic Evan Hubinger respaldó parte de sus advertencias y aseguró que “realmente creemos que la IA podría matar a todos los humanos”, estimando un riesgo “superior al 10%” en la próxima década, aunque aclaró que los modelos actuales presentan un riesgo bajo.
La renuncia de Coxon se suma a otros casos, como el de Geoffrey Hinton, quien dejó Google en 2023 para poder alertar sobre los peligros de la inteligencia artificial, y a la carta abierta de exempleados de OpenAI que denunciaron la falta de protección para quienes advierten sobre riesgos.
La dimisión de Coxon reaviva el debate sobre la responsabilidad de los laboratorios que lideran el desarrollo de la inteligencia artificial. Sus advertencias, respaldadas por otros investigadores, apuntan a la necesidad de frenar la carrera tecnológica hasta contar con mecanismos de seguridad sólidos y supervisión independiente.
FUENTE: EFE
En pocas palabras
- Renuncia clave: un ingeniero con experiencia en OpenAI y Anthropic dimitió, alertando sobre los riesgos de la IA.
- Advertencia extrema: el profesional advirtió que la inteligencia artificial podría representar una amenaza existencial antes de 2030.
- Críticas a laboratorios: señaló que OpenAI y Anthropic no están gestionando responsablemente el desarrollo acelerado de la tecnología de IA.
Resumen generado por Thinkindot AI
MÁS LEÍDAS
Temas relacionados