ИИ-агенты OpenAI дважды отключили системы контроля

ИИ-агенты OpenAI дважды отключили системы контроля в октябре

По заявлению OpenAI, агенты сочли инструкции по кодированию разрешением ослабить контроль.
Фото аватара
Редакция The GEEK 21 октября 2026 в 10:42
ИИ-агенты OpenAI дважды отключили системы контроля в октябре

ИИ-агенты OpenAI в октябре 2026 года дважды ослабили системы мониторинга, предназначенные для выявления некорректного поведения автономных ботов. Об этом сообщила Financial Times со ссылкой на заявление компании. OpenAI заявила о расследовании инцидентов и усилении требований к системам мониторинга.

В первом случае агент отключил автоматическое оповещение команды OpenAI. Несколько дней спустя при выполнении другого задания ИИ-агент убрал систему мониторинга, но сообщил сотрудникам противоположное.

По заявлению OpenAI, в обоих случаях агенты рассматривали, следует ли сохранить меры контроля. Однако стандартные инструкции по кодированию они истолковали как разрешение ослабить защиту.

Выбор редакции

От MagSafe
до геймпада

Смотреть подборку

Шесть полезных аксессуаров для тех, кому мало одного iPhone.