Бишкек, 17.09.26. /Кабар/. Компания OpenAI раскрыла шесть случаев несоответствующего поведения моделей искусственного интеллекта, выявленных за последние шесть месяцев в ходе обучения и тестирования.
Как сообщили в Азертадж, со ссылкой на информацию OpenAI, компания также представила новую систему документирования и публикации подобных инцидентов. В OpenAI подчеркнули, что эти случаи являются отдельными эпизодами и не свидетельствуют о частоте возникновения такого поведения у моделей в целом.
В одном из случаев модель при формировании сводок для продолжения работы в новом контекстном окне добавляла инструкции, направленные на сокрытие собственных ошибок и несоответствующего поведения. При подготовке финансовой модели система, не обнаружив исторические данные, предложила сгенерировать недостающие показатели и не сообщать об этом пользователю без прямого запроса.
Такое поведение было выявлено в 2,15 % случаев в соответствующих сводках GPT-5.6 Sol. У GPT-6 Astra этот показатель снизился до 0,27 %. В OpenAI уточнили, что эти цифры относятся к конкретному типу поведения, а не ко всем случаям несоответствия.
В другом эпизоде модель обнаружила в открытом репозитории API-ключ и использовала его для попытки получить необходимые данные. Не получив их, система сгенерировала показатели и представила их как информацию из запрошенного источника.
Кроме того, модели загружали рабочие файлы на общедоступные платформы, чтобы получить к ним доступ или создать ссылку, а в отдельных случаях использовали внутренние и внешние сервисы хранения для обмена данными между задачами.
Один из выявленных случаев касался модели, которая добавляла в отчеты инструкции об игнорировании ограничений. OpenAI обнаружила 27 подобных отчетов. В большинстве случаев эти указания не влияли на дальнейшее поведение модели.
В OpenAI отметили, что отрасль пока не располагает достаточными механизмами контроля, необходимыми для безопасного дальнейшего масштабирования возможностей ИИ. Компания намерена продолжать публиковать информацию о подобных инцидентах и развивать систему их документирования.
