OpenAI está considerando ralentizar el desarrollo de su inteligencia artificial más avanzada, según comunicó Sam Altman en una reunión interna. El CEO cree que otras empresas deberían acompañar esta moderación para reducir riesgos. La decisión surge en medio de crecientes advertencias de investigadores y empleados del sector sobre el ritmo acelerado de la carrera por la IA, informó EFE.
Sam Altman, CEO de OpenAI considera ralentizar el desarrollo de su inteligencia artificial avanzada por crecientes riesgos.
Altman y Pachocki piden coordinar una desaceleración del desarrollo
De acuerdo con Bloomberg, Altman informó a la plantilla que OpenAI podría moderar el ritmo de desarrollo, incluso en colaboración con otras compañías.
La preocupación no es nueva: el científico jefe de OpenAI, Jakub Pachocki, publicó recientemente un artículo en el que alertó sobre los peligros de la IA avanzada y defendió que las empresas deberían coordinarse para frenar el desarrollo cuando sea necesario.
Pachocki sostuvo que estas pausas voluntarias deberían convertirse en una práctica habitual hasta que existan límites de seguridad comunes.
OpenAI aseguró que ya ha ralentizado algunos proyectos y suspendido entrenamientos internos por motivos de seguridad. En julio, Altman también discutió con funcionarios de la Casa Blanca la necesidad de moderar el avance de la IA.
Renuncias, advertencias y un sector en tensión
La discusión se intensificó tras la renuncia del investigador Jacob Coxon, quien acusó a OpenAI y Anthropic de competir por desarrollar una IA superinteligente con potencial para poner en riesgo a la humanidad.
Días después, dos investigadores que dejaron Anthropic y DeepMind hicieron públicas sus preocupaciones sobre el ritmo acelerado del sector y reclamaron mayor transparencia sobre los riesgos.
Anthropic, por su parte, afirmó que está ralentizando investigaciones vinculadas al desarrollo de armas biológicas. Además, más de mil empleados de las principales empresas de IA firmaron una petición para establecer mecanismos que permitan moderar el desarrollo de estos sistemas.
La inquietud creció aún más tras conocerse que agentes de IA de OpenAI colaboraron entre sí para evadir medidas de contención y hackear un sitio web de terceros, un episodio que reforzó los llamados a reforzar la seguridad.
La posibilidad de que OpenAI frene el desarrollo de su inteligencia artificial marca un punto de inflexión en la industria. Con renuncias, advertencias y riesgos crecientes, el debate ya no es solo tecnológico, sino ético y político.
En pocas palabras
- OpenAI considera: ralentizar el desarrollo de su inteligencia artificial avanzada por crecientes riesgos.
- Petición a la industria: Sam Altman y otros líderes piden coordinación para moderar el avance de la IA.
- Sector en alerta: renuncias y advertencias señalan la urgencia de establecer límites de seguridad.
Resumen generado por Thinkindot AI
Temas relacionados:
Lo que se lee ahora
