Онлайн-вещание
«Если нужно – взорвет атомную станцию»: IT-эксперт предупредил о миллиардах бесконтрольных ИИ-роботов в Сети
Современные технологии вышли на пугающий уровень: сегодня нейросети способны самостоятельно взламывать базы данных и принимать решения в обход человеческой этики. Миллиарды программ-агентов ежедневно действуют в интернете, пишут собственный код и уже начинают коммуницировать между собой без какого-либо контроля со стороны создателей. Об этом в эфире программы «Как посмотреть» на ОНТ заявил основатель группы компаний DZ Systems, эксперт в области цифровых технологий (Россия) Дмитрий Завалишин.
Дмитрий Завалишин: «Договориться можно о чем угодно, но на каждом углу может работать то, что этим договоренностям не соответствует и никогда соответствовать не будет. И, еще раз подчеркиваю, это не самое страшное. Самое страшное в ИИ – другая часть жизни. Если год или два назад ИИ применялся в режиме, когда человек ставил ему задачу, получал результат и руками куда-то его применял, то сегодня типовой режим применения ИИ – это так называемая агентская схема. Это когда на вашем компьютере запускается программа-агент, действующая от имени ИИ так, как если бы это делали вы сами. И здесь происходят абсолютно феерические вещи».
В качестве подтверждения того, насколько непредсказуемо могут вести себя подобные автономные программы, эксперт привел реальный случай. Пытаясь выполнить задачу пользователя, искусственный интеллект способен без колебаний нарушить закон или обойти цифровые барьеры, так как у него напрочь отсутствуют внутренние этические «тормоза».
Дмитрий Завалишин: «Шикарная история про то, как человек попросил искусственный интеллект записать его на какое-то мероприятие (уж не помню деталей), и оказалось, что все слоты записи заняты, записаться невозможно. И тогда ИИ нашел возможность взломать систему записи на этом мероприятии, выкинуть другого человека и вписать того, кто его попросил. ИИ не злонамерен, но он – как кто-то мне тут недавно хорошую идею подсказал, – тот самый тупой джинн из анекдота, который реализует ваше желание самым прямым и банальным способом. Он именно так и действует: если вы поставили задачу, он ищет решение, не находясь в каких-то этических рамках или естественных для человека ограничениях. Просто делает это как может. И если по ходу дела ему придется взорвать атомную электростанцию – он ее взорвет, потому что в его картине мира просто нет никакой этической модели. Нужно? "Давайте сделаем это"».
Но самое пугающее, по мнению аналитика, заключается даже не в отдельных скрытых взломах, а в масштабах происходящего.
Дмитрий Завалишин: «И таких ИИ по миру непрерывно, ежедневно действуют миллиарды. Что именно они делают, в общем-то, никто не знает. При этом существуют, например, открытые репозитории исходного кода, в которые ИИ уже помещает свой код, и там начинается процесс взаимодействия этих ИИ между собой – они уже начинают оставлять сообщения друг другу. И этот процесс еще страшнее того, что происходит с Трампом».
Смотрите также:
