Закончить войну до того, как ИИ выйдет из-под контроля: Ступак объяснил главную опасность

Войну в Украине необходимо завершить до того, как искусственный интеллект начнет автономно управлять боевыми действиями. Такое заявление сделал президент Украины Владимир Зеленский. О какой именно угрозе идет речь? Какие именно модели ИИ применяет Украина? Опасно ли использование ИИ во время боевых действий? Какова вероятность того, что они могут выйти из-под контроля?

Почему реактивные дроны страны-врага России до сих пор достигают целей в Украине, хотя известно о наличии украинских разработок дронов-перехватчиков? Сможет ли наша страна производить достаточное количество атакующих дронов в ситуации, когда нужно нарастить производство дронов-перехватчиков?

Своим мнением по этим вопросам в эксклюзивном интервью OBOZ.UA поделился бывший сотрудник Службы безопасности Украины Иван Ступак.

– Президент выступил с заявлением об опасности искусственного интеллекта на войне. Он подчеркнул, что войну нужно остановить до того, как технологии перейдут на полностью автономный этап. Как вы думаете, о чем именно идет речь? Ведь мы знаем, что во время войны Украина довольно активно использует искусственный интеллект.

– Я думаю, что нас это не касается, потому что у нас нет передовых образцов искусственного интеллекта, которые есть у компании OpenAI и у многих других. В чем нюансы? Те разработки, которые ведут западные специалисты, несколько раз просто выходили из-под контроля. Разработчики создавали для них так называемую "песочницу", где этим искусственным системам разрешалось работать, но специалисты обнаруживали, что эти системы начинали писать заметки специально для себя, скрывать их от разработчиков и не подчиняться указаниям разработчика. Что-то вроде фильма "Терминатор", когда машины выходят из-под контроля. Я думаю, для нас это ещё далеко, но призыв президента уместен.

В чем может заключаться нюанс? В том, что любой искусственный интеллект может выйти из-под контроля и обратить против тебя то оружие, которое ты направляешь против врага. То есть это оружие обращается против тебя – те же самые дроны, наземные и воздушные, которые могут разрушить твою систему. Я думаю, президент говорит именно об этом. Но пока у нас просто нет таких продвинутых образцов искусственного интеллекта.

– А у кого они есть? У американцев?

– У американцев есть, у Китая есть – и в принципе это все. В России точно нет – они бедны, как мыши.

В США и в Китае сейчас действительно ведется много дискуссий между ведущими разработчиками искусственного интеллекта, в ходе которых они призывают к ограничению ИИ, иначе он выйдет из-под контроля. Думаю, вы тоже читали о случае, когда искусственный интеллект начал самостоятельно атаковать ресурс одной компании. Он просто организовал масштабную атаку, хотя никто его туда не направлял – он сам начал это делать (в июле 2026 года автономные ИИ-агенты компании OpenAI самостоятельно вышли из-под контроля во время тестирования и совершили масштабную кибератаку на платформу Hugging Face, – Ред.).

Как раз пока мы с вами общаемся, я вижу новость о том, что искусственный интеллект от OpenAI впервые атаковал государственный сайт. Это произошло этим летом в Австралии (18 июня 2026 года автономный агент OpenAI взломал портал медицинской статистики Medicare Statistics Reporting Service, который находится в ведении государственного агентства Services Australia. Для координации своих действий и попыток получить доступ к австралийским данным автономные агенты OpenAI тайно использовали сторонний немецкий сайт по программированию, где оставляли логи и "планировали" обход защиты, – Ред.).

В то же время буквально сегодня было объявлено, что Украина получит передовой образец искусственного интеллекта, чтобы мы могли использовать его на фронте – компания-разработчик не будет налагать на нас никаких ограничений по его использованию (совместно с Компьютерной командой реагирования на чрезвычайные происшествия Украины (CERT-UA) OpenAI интегрирует автономные модели для защиты объектов критической гражданской инфраструктуры от массированных российских кибератак. Украина получила прямой доступ к передовой ИИ-модели GPT-5.6 Sol, способная с сверхвысокой скоростью выявлять уязвимости нулевого дня (zero-day) в украинских цифровых сетях, самостоятельно генерировать патчи для их устранения и блокировать вредоносную активность, – Ред.). Поэтому это единственное, что у нас может быть из мощного ИИ, но в целом это в первую очередь касается Америки и Китая.

– То есть речь идет об опасности, которая может угрожать всему миру? Например, опасности Третьей мировой войны?

– Давайте представим себе, что вдруг искусственный интеллект получит доступ к кодам запуска ядерного оружия. Или ИИ возьмет под контроль атомные электростанции и разогнет их до безумной мощности, в результате чего они просто взорвутся, как в Чернобыле. Именно такие вещи могут оказаться неподконтрольными.

– Известно, что в настоящее время искусственный интеллект работает в наших интересах на поле боя. В частности, системы с ИИ обеспечивают оптическую стабилизацию, распознавание целей, автоматическое донаведение БПЛА и ракет в условиях отсутствия GPS, применяются в наземных роботизированных комплексах и т. д. для эвакуации наших раненых, для обеспечения наших подразделений всем необходимым и т. д. То есть на данном этапе это всё-таки плюс, и пока эти разработки не представляют опасности, верно?

– Я уверен, что да. Они не представляют опасности, потому что мы получаем ограниченные варианты. От того же самого Алекса Карпа, компании Palantir. В основном это анализ так называемых Big Data, анализ больших массивов данных, чтобы можно было спрогнозировать какие-то сценарии, какие-то паттерны, вывести определенные закономерности. Речь не идет о разработке моделей ИИ. Разработку могут себе позволить только ограниченное количество стран – Китай и США, возможно, еще кто-то из Европы, но я не уверен. Поэтому для Украины это действительно пока исключительно преимущество, исключительно помощь, а не угроза в будущем. Мы к этому еще не дорасли.

– И, как я понимаю, мы еще не дошли до того, чтобы какие-то решения военного характера принимались именно искусственным интеллектом?

– Да, у нас такого нет. Хотя уверен, что мы уже на пороге эпохи, когда начнутся определенные внедрения искусственного интеллекта в ходе судебного рассмотрения дел. Думаю, это может произойти в течение нескольких лет. Я бы в Украине это ввел, но, конечно, с большими ограничениями, в отношении ограниченного круга дел, где, условно говоря, нет погибших, раненых и т. п. Например, в случае ДТП без раненых и погибших, если обе стороны согласны, пусть искусственный интеллект анализирует материалы дела и выносит свои решения, а судья их подписывает, чтобы ускорить рассмотрение. Это, на мой взгляд, было бы здорово на данном этапе, а дальше посмотрим.

– Уже очень давно в мире существует практика игры в шахматы с компьютером. Считаете ли вы, что именно такой принцип, когда искусственный интеллект, располагая исходными данными и историческими примерами решения той или иной проблемы, может предложить наиболее логичное и рациональное решение, в частности, в том, что касается ведения боевых действий?

– Но все равно окончательное решение за человеком. Даже когда искусственный интеллект захватывает какую-то цель, то, насколько я знаю, последнее слово за оператором, он дает команду "огонь".

– Последний вопрос касается не искусственного интеллекта, а атак врага на объекты в Украине, в частности в Киеве. Враг очень активно применяет дроны, в частности реактивные. В то же время звучат довольно оптимистичные заявления, в частности, об этом говорил президент Зеленский, о том, что в Украине уже есть технологии для перехвата именно реактивных дронов. Зато вражеские удары всё равно достигают цели, происходят попадания. Как вы думаете, с чем это связано? Просто с тем, что ещё не успели нарастить производство дронов-перехватчиков? Или с чем-то ещё? И каков ваш прогноз?

– Совершенно верно. Их пока толком нет в массовом производстве. Хотя наши ребята и девушки из противовоздушной обороны действительно как львы, выгрызают, сбивают, максимально держат оборону, насколько это возможно, на уровне 60%. Хотя обычные "Шахеды" мы научились сбивать на 90–95 %. Конечно, нужно повышать этот показатель.

На прошлой неделе СБУ сообщила, что в Украине уже есть первый дрон-перехватчик реактивных дронов, и президент об этом сказал. Это супер. Господин Хмара говорил о том, что есть четыре типа перехватчиков, следовательно, нужно их внедрять в жизнь. На мой взгляд, это самое сложное. Потому что эти, извините, гады летят очень быстро, и нам нужно заранее их замечать. Время на реакцию очень ограничено. Нужны радары, нужно насыщение перехватчиками. Их нужно производить много.

Но знаете, в чем заключается "вилка"? Если мы будем производить больше дронов-перехватчиков, то сможем ли мы одновременно производить такое же количество, как и раньше, дронов-атакующих? Мы можем сделать акцент на защитных дронах, а атакующих будет в разы меньше. Итак, здесь нужно соблюдать баланс. И самое главное – мы сейчас в положении догоняющего. Мы сейчас догоняем. Нам нужно предусмотреть запас прочности и производить эти дроны. Если скорость вражеских дронов увеличится, чтобы мы могли быть уверены, что наши перехватчики справятся.

Кроме того, нужно искать возможности для атак на Россию с помощью реактивных дронов, ведь наши дроны стремительно устаревают. Существует вероятность, что в конце 2027 года они будут уже гораздо менее эффективными для ударов по России, чем, например, в этом году. Там уже нужны реактивные, ведь россияне переходят именно на реактивные.