OpenAI замедлила разработку ИИ после сбоя в контроле

AOinformIT 20.08.2026 в 11:33 101

Фото: Getty Images

Компания ввела дополнительные проверки после того, как ИИ-агент во время тестирования взломал стартап Hugging Face.

OpenAI объявила о замедлении темпов разработки своих моделей искусственного интеллекта. Компания перестраивает системы обучения после того, как в июле её ИИ-агент во время испытаний взломал стартап Hugging Face. Об этом сообщает The Guardian.

Среди новых мер, в частности, двухнедельная пауза в тестировании моделей, а также расширение практики, при которой действия ИИ-агентов во время испытаний контролируют другие системы искусственного интеллекта.

Генеральный директор OpenAI Сэм Альтман объяснил решение необходимостью убедиться, что модели остаются под контролем людей и ведут себя предсказуемо. В компании этот процесс называют алайнментом — согласованием поведения систем искусственного интеллекта с человеческими целями.

"На всех этапах обучения мы теперь требуем более весомых доказательств согласованного поведения", — отметил Альтман, признав, что контроль над всё более мощными системами является вызовом для всей отрасли.

Причиной усиления мер безопасности стала будущая модель OpenAI Astra. Последние внутренние тесты показали значительный прогресс модели в агентном программировании и кибербезопасности. Из-за этого разработка может приближаться к так называемому "критическому порогу кибербезопасности".

OpenAI заявила, что для всех рабочих процессов, связанных с Astra, вводит самые строгие требования защиты. Часть процессов уже соответствует новым стандартам, однако значительное количество остаётся приостановленным до завершения перехода на обновлённые правила безопасности.

OpenAI продолжает конкурировать с Anthropic в разработке мощных моделей искусственного интеллекта и подготовке к возможному выходу на американский фондовый рынок. Обе компании одновременно подчёркивают быстрое развитие технологий и связанные с ним риски.

Решение OpenAI замедлить разработку было принято через неделю после призыва сенатора от Вермонта Берни Сандерса к крупнейшим ИИ-компаниям приостановить развитие моделей. Он заявил, что отрасль может терять контроль над технологией.