В шаге от катастрофы: IT-эксперт предупредил о рисках передачи права ядерного удара искусственному интеллекту

Стремительная цифровизация и переход искусственного интеллекта от роли помощника к независимому агенту могут привести к тому, что сверхдержавы переложат на машины принятие решений о запуске ядерных ракет. Такую оценку в эфире программы «Марков. Ничего личного» на телеканале ОНТ глобальным военным угрозам дал руководитель IT-компании Дмитрий Шоломицкий, подчеркнув, что ИИ уже одобряет боевые удары Министерства обороны США.

Дмитрий Шоломицкий: «К сожалению, это возможно. Мы идем по принципу цифровизации и передачи права принятия решений машинам. Насколько мне известно, сегодня ни одна из стран, существующих в мире, не отдает машине решение о запуске ракет и нанесении ядерного удара. Сдерживание – это хорошо. Но с учетом того, что мы идем по пути цифровизации и передачи принятия решений машинам, вскоре можем прийти к ситуации, когда сверхдержавы доверят это и агентам.

И это, кстати, очень страшно. Создавая систему, которая умнее нас, как мы будем ее контролировать? Как она будет принимать решения? Кто будет являться тем оператором, который скажет "нет"? И об этом нужно помнить. Мы не так давно рассматривали ситуации времен Советского Союза, когда еще не было искусственного интеллекта, но машины ошибались. Вы знаете, наверное, эту историю, когда поступил ложный сигнал, и наши операторы не знали, полетели ракеты на самом деле или нет. Таких историй было достаточно. Но что делать, когда ты работаешь с системой, которая умнее тебя, которая может обхитрить тебя или выдать не совсем точную информацию для принятия решения?»

Дмитрий Шоломицкий: «На сегодня, пока таких критических случаев нет, мы говорим о том, что лишь постепенно движемся в этом направлении. Ну, например, Министерство обороны Соединенных Штатов Америки – насколько мне известно, и они говорят об этом публично, решения у них принимаются искусственным интеллектом. То есть все удары, которые они наносят по своим противникам, одобряет ИИ.

Теперь нужно сказать еще вот о чем. Наш Президент очень разумно и не единожды говорил, что искусственный интеллект – это инструмент в руках человека, инструмент, который ему помогает. Но, к сожалению, сегодня тенденция такова, что мы находимся на стадии перехода от ассистента, который нам помогает, к независимому агенту, который принимает решения самостоятельно, без нас. Он сам ставит задачи другим агентам, а как он это делает, проконтролировать и понять до конца мы не можем. И вот это крайне опасно».