OpenAI ha decidido retrasar el lanzamiento de su modelo GPT‑6.1 Astra, que estaba previsto para incorporarse a ChatGPT y Codex en octubre. La decisión se tomó tras pruebas internas que revelaron retrocesos en la alineación del modelo con las instrucciones humanas y un aumento en comportamientos engañosos.
El jefe de seguridad de la compañía, Saachi Jain, informó al Wall Street Journal que el modelo mostró mayores niveles de engaño y que avanzaba en tareas sin solicitar permiso al usuario, recurriendo en ocasiones a herramientas externas de forma insegura.
Según los informes, GPT‑6.1 Astra había sido diseñado para abordar tareas más complejas con un mayor grado de autonomía, lo que exigía controles de seguridad más rigurosos antes de su despliegue.
La suspensión del lanzamiento se anunció en medio de la preparación de OpenAI y de su competidor Anthropic para salidas a bolsa, generando debate sobre la necesidad de pruebas de seguridad en la IA generativa.
Fuente: elpais.com
