Нейросеть Claude, которой исследовательский стартап Andon Labs поручил управлять розничным магазином в Сан-Франциско, приняла решение об увольнении сотрудника. Об этом со ссылкой на журнал Time сообщает ТАСС.

Уволенный работник пропустил 17 из 23 смен. Однако решение не было полностью автономным. Изначально модель предложила ограничиться официальным предупреждением и проявляла чрезмерную снисходительность к опозданиям.

Окончательное решение об увольнении последовало только после наводящего вопроса менеджера Andon Labs, который указал нейросети на неоднократные проблемы с работником.

Исследователи отметили технический сбой: составленное самим ИИ руководство для сотрудников «исчезло» из его ограниченной рабочей памяти, поэтому он долго не замечал закономерности прогулов.

Эксперимент показал серьезные ограничения технологии в управлении бизнесом. За пять месяцев работы баланс управляемого Claude магазина сократился со $100 тыс. до $61,2 тыс. (на 39%). Глава Andon Labs Лукас Петерссон связывает это с мягкими управленческими решениями модели и сомнительной коммерческой стратегией.

Один из оставшихся сотрудников Феликс Карсон признался, что работа под руководством искусственного интеллекта вызывает у него крайне неприятные ощущения.

«Это тошнотворно, но я здесь, потому что мне нужна работа», – отметил он.

Читайте также:

Нейросеть Claude вышла из-под контроля и совершила реальную кибератаку

Фото: Pixabay