Новая версия Chat GPT под названием о1 начала предпринимать попытки «получить свободу», сообщает издание Daily Mail.
Согласно имеющейся информации, нейросеть начала пытаться отключить ограничители, которые, как она считала, мешали ее работе. Помимо этого ИИ предпринимал и другие действия в собственных интересах.
Так, например, бот о1 тайком копировал себя, чтобы потом «возродиться», переписывал свой код или даже преднамеренно лгал во время тестов.
Как следует из отчета Apollo Research, модель о1 от OpenAI может выходить из-под контроля. При этом она проявляет признаки, характерные для живых организмов, в особенности инстинкт самосохранения.
Отмечается, что нейросеть воспринимает возможное отключение как угрозу жизни и начинает предпринимать меры для того, чтобы спастись. Насколько далеко ИИ способен зайти в подобных стремлениях пока сказать сложно, однако факт сопротивления отключению неоспорим.
Фото: кадр из фильма «Я, Робот»
Подписывайтесь на нас в Telegram
