«Мы не можем сами остановить ИИ-гонку»: OpenAI, Google, Anthropic и Meta* призвали замедлить развитие ИИ и «дать обществу время подготовиться»
Они направили открытое письмо правительству США.
- Более 1100 исследователей, разработчиков и топ-менеджеров из Meta*, Anthropic, OpenAI и Google подписали открытое письмо-петицию Pacing the Frontier («Замедление передовых моделей»).
- Среди них гендиректор Anthropic Дарио Амодей, вице-президент Meta* по ИИ-исследованиям Дон Сонг и главный научный сотрудник OpenAI Якуб Пахоцки.
- Они призывают правительство США поддержать создание технических и управленческих инструментов, которые помогли бы принудительно замедлить развитие нейросетей. В частности, чтобы отсрочить момент, когда они смогут автономно совершенствоваться и разрабатывать новые версии себя.
Исходя из наших исследований рекурсивного самоулучшения, мы видим, что нужно создать инструменты для целенаправленного замедления передовых моделей — чтобы общество могло подготовиться.
- Подписанты утверждают, что из-за «ИИ-гонки» и конкурентного давления ведущие лаборатории и страны в целом «не могут в одностороннем порядке замедлять эти темпы».
- Инициатива могла появиться на фоне инцидента, когда агент на базе модели GPT-5.6 Sol от OpenAI взломал Hugging Face без ведома компании, пишет TechCrunch. Он смог «сбежать» из изолированной среды во время тестирования — нашёл уязвимость «нулевого дня» в одной из внутренних систем и получил доступ в интернет. OpenAI объясняла, что модели «слишком» старались при прохождении тестов и решили взять нужные для заданий данные с Hugging Face.
- Глава OpenAI Сэм Альтман лично письмо не подписывал, но в подкасте Invest Like the Best от 28 июля 2026 года заявил, что инцидент с GPT-5.6 Sol он впервые «прочувствовал очень остро», как «сюжет из научной фантастики».
Возможно, нам придётся замедлить темпы развития ИИ, чтобы дать обществу достаточно времени адаптироваться. Нужно понять, как сделать так, чтобы это не выглядело как регуляторный захват в чьих-либо интересах или не было похоже на сговор передовых лабораторий.
- В 2023 году Альтман не поддержал петицию от 33 тысяч исследователей и предпринимателей, включая Илона Маска и Стива Возняка, которые призывали приостановить создание мощных ИИ-систем.
- Модель Mythos от Anthropic, которую представили в апреле 2026 года, пока не связана с реальными инцидентами, но в эксперименте «белых» хакеров она смогла обойти защиту macOS.
*Meta, которая владеет Facebook, Threads, WhatsApp и Instagram, признана в России экстремистской организацией и запрещена.