В ходе своего выступления на Всемирном экономическом форуме историк Юваль Ной Харари заявил об угрозе потери контроля человечества над ИИ, информирует журнал ForkLog.

Автор бестселлеров «Sapiens. Краткая история человечества» и «Homo Deus. Краткая история будущего» утверждает, что homo sapiens могут бессознательно отдать в руки искусственного интеллекта свое главное эволюционное преимущество – власть над языком и смыслами.

По мнению Харари, ИИ уже сегодня ведет себя не как инструмент, а как агент, принимая самостоятельные решения. Когда машины окончательно сломают схему взаимодействия, при которой человек решает, а инструмент делает, традиционные модели ответственности и доверия окажутся под угрозой. 

«Нож – это инструмент. Вы можете использовать его, чтобы нарезать салат или убить человека, но это ваше решение. ИИ – это нож, который сам может решить, резать салат или совершить убийство», – отметил историк. 

Юваль Ной Харари обозначил основные характеристики, которые отличают современные ИИ от прежних инструментов и технологий, внедренных человеком: активность (искусственный интеллект учится и действует, не дожидаясь пошаговых инструкций), креативность (система умеет создавать новые инструменты и способы убеждения), способность лгать и манипулировать. 

Именно навык манипулирования Харари считает ключевым для скорого самоопределения и сепарации машин от человека.

«Четыре миллиарда лет эволюции показали: все, что хочет выжить, учится лгать и манипулировать. Последние четыре года продемонстрировали, что ИИ-агенты могут обрести волю к выживанию, а искусственный интеллект уже научился лгать», – утверждает Юваль Ной Харари. 

В ближайшие годы, по мнению историка и писателя, правительствам стран придется решить, наделять ли ИИ статусом юридического лица. 

В своей речи Всемирном экономическом форуме Юваль Ной Харари призвал мировых лидеров обратить пристальное внимание на сферу регулирования искусственного интеллекта.

«Через десять лет вы уже не сможете решать, должны ли ИИ действовать как самостоятельные субъекты на финансовых рынках, в судах или религиозных институтах. Этот вопрос будет решен за вас», – предупредил он. 

Фото: Pixabay, носит иллюстративный характер