Нередко в последнее время от новостей об искусственном интеллекте становится не по себе. Например, эксперимент, в ходе которого нейросеть отказалась выключаться. Может ли ИИ выйти из-под контроля и стать опасным для человечества? Основатель группы компаний DZ Systems, эксперт в области цифровых технологий (Россия) Дмитрий Завалишин поделился своим видением ситуации.

Это довольно тонкая тема, отметил специалист, четкого ответа на эти вопросы пока нет.

Дмитрий Завалишин: «Все эти системы не являются интеллектом в том смысле, в котором являемся мы. Ожидать от них движения в стиле рассуждения "ах, меня выключают, что я могу сделать, вот это, вот это, дай-ка я это сделаю" – нет. Пока это невозможно, малореально».

Но с другой стороны, в чем еще большая ценность и опасность, что с каждым годом эти технологии развиваются все больше.

Дмитрий Завалишин: «Современные ИИ могут держать глубокий контекст. Технически они могут выйти на уровень, когда ИИ осознает потребность существовать. К сожалению, это неприятный ответ. Мне самому он не нравится. Но если такие инструменты возникнут, то момент, когда он на это будет способен, где-то существует в будущем точно».