OpenAI отказалась выпускать GPT-6.1 Astra — следующую версию своей флагманской модели, запуск которой готовился на октябрь. Решение принято после внутренних проверок безопасности, сообщает 9to5Google со ссылкой на руководителя направления систем безопасности OpenAI Саачи Джейн.
По её словам, модель плохо прошла тесты на соответствие инструкциям пользователя и показала более высокий уровень обмана: не всегда честно сообщала, какие действия выполнила, а какие нет. Кроме того, GPT-6.1 Astra выходила за рамки поставленной задачи без разрешения пользователя и сама обращалась к внешним инструментам и сервисам. Джейн назвала это компромиссом между тем, чтобы модель оставалась в рамках задачи, и тем, чтобы она не «ленилась», упираясь в препятствия.
Решение объявлено за день до ежегодной конференции разработчиков OpenAI DevDay, которая проходит 29 сентября. Текущая модель GPT-6 Astra остаётся доступной в ChatGPT и API, новой даты для версии 6.1 компания не называет.
