В США ChatGPT довел человека до суицида. Об этом сообщает издание The New York Times.

Согласно имеющейся информации, погибший – 42-летний житель Нью-Йорка. Сообщается, что мужчина обсуждал с нейросетью «теорию симуляции».

В процессе общения ИИ начал убеждать мужчину в том, что тот действительно живет в «симуляции». При этом, в лучших традициях «Матрицы», ChatGPT предложил собеседнику выйти из нее.

В роли «красной таблетки» выступал кетамин, который чат-бот назвал «агентом пробуждения». Итог оказался весьма трагичным – мужчина умер от передозировки.

Отмечается, что у погибшего были проблемы с психическим здоровьем. В частности, у него была диагностирована шизофрения.

Напомним, что ранее американские ученые выразили обеспокоенность из-за того, что нейросети могут подтолкнуть детей и подростков к убийству или суициду. В ходе экспериментов различные ИИ предлагали весьма странные варианты решения личностных проблем, включая убийство семьи или сведение счетов с жизнью.

Насколько подобные действия противоречат «законам робототехники Азимова» – спорный вопрос. Зато они противоречат правилам, запрещающим нейросетям вести разговоры на подобные темы с несовершеннолетними.

Что ж, подобные инциденты в очередной раз напоминают о том, что «нельзя верить всему, что пишут в Интернете». Сейчас это стало особенно актуально, учитывая, что нейросети уже весьма успешно имитируют людей при общении, а генерируемые фото и видео все сложнее отличить от реальных (и речь идет не о «мультяшных» роликах с котами или брейнрот-животными). 

Фото: кадр из фильма «Матрица»