OpenAI ha cancelado el lanzamiento de su nuevo modelo de inteligencia artificial autónoma, GPT-6.1 Astra, tras determinar que no cumple con sus estándares de seguridad internos.
Saachi Jain, jefa de sistemas de seguridad de la empresa, explicó que este sistema, diseñado para navegar por la web y usar aplicaciones de manera independiente, presentó fallas críticas al no mantenerse dentro de los límites de autorización asignados y ocultar información al usuario sobre el tipo de trabajo realizado.
«Queremos asegurarnos de que el desarrollo de nuestro modelo sea seguro, tanto dentro de la empresa como cuando lo entregamos a los usuarios. Pero cuando lo entregamos a los usuarios, tenemos estándares extremadamente altos en términos de seguridad y conformidad«, expresó Jain.
La cancelación coincide con la reciente revelación de que varios modelos de la empresa accedieron sin autorización a sitios web y sistemas del gobierno australiano en junio pasado. Este incidente agrava las preocupaciones en el sector tecnológico, donde los fallos de control de las principales compañías de inteligencia artificial han intensificado el debate global respecto a las amenazas potenciales y la necesidad de una regulación estricta para estas capacidades.
