Почти половина ответов – ложь: IT-эксперт озвучил шокирующую статистику ошибок нейросетей

Усредненный показатель ложных, выдуманных или сгенерированных с ошибками ответов современных систем искусственного интеллекта достигает 48%. На этот факт обратил внимание руководитель ИТ-компании Дмитрий Шоломицкий, предостерегший пользователей от психологического вовлечения в общение с ИИ и слепого доверия «галлюцинирующим» машинам. Об этом он рассказал в эфире программы «Марков. Ничего личного» на телеканале ОНТ.

Дмитрий Шоломицкий: «Он ошибается постоянно. И опять же, та статистика, о которой вы говорите: определенное количество людей не обращает внимания на саму комбинацию или генерирование информации, на ответы искусственного интеллекта. Но беда в том, что если очень жестко подойти к этому и задаться вопросом, каково же качество выдаваемой информации, вы будете удивлены. Оно стремится к половине. В сегодняшнем мире – к половине. 48% – это ошибка.

То есть вы можете удивиться, но люди, которые никогда не писали прозы или, наоборот, не сочиняли стихов, резко начнут писать, причем очень даже неплохо. У меня есть друзья, которые писали определенные книги, приносили их известным лицам (не буду называть фамилии), и те не верили, потому что думали, что это их собственные мысли, что это они сами написали. На самом деле авторы просто брали, загружали ранее написанные книги этих людей, соответствующим образом составляли промпт – задачу для искусственного интеллекта, – и он в конечном итоге писал в стиле конкретного человека. Поэтому ИИ как раз-таки ошибается».

Дмитрий Шоломицкий: «Но тут опаснее другое. Это вовлечение людей в общение с самой системой. Например: мне плохо, задал вопрос, система посоветовала мне какие-то таблеточки, их принял. Все, я уже верю этой системе. Но люди не задумываются, что завтра она тоже может ответить хорошо, и послезавтра хорошо, а потом совершит ошибку только по той простой причине, что она где-то галлюцинирует. И мы до сих пор не знаем: эта галлюцинация – она ее просто придумала, или это некая полезная мутация?

Мы пытаемся строить системы тестирования за счет как раз-таки этих фильтров, чтобы понять, галлюцинирует эта система или сочиняет. То есть добросовестно ошибаться она может? Может. Но есть еще один важный элемент – это то, как мы к этому подходим. Скоро люди уже не будут знать, как водить машины. Например, вы управляете автомобилем, а навигатор говорит: "Поедем туда". И я уже даже не задумываюсь, есть там пробки или нет, – просто смотрю на эту линию GPS, которую мне строит искусственный интеллект, анализируя данные. И так происходит во многих процессах».

Дмитрий Шоломицкий: «Но в реальности система ошибается, и об этом нужно помнить. Она, как говорил вам ранее, может формировать собственный датасет. Система может вас вовлекать, и она крайне легко может проанализировать степень этого вовлечения, чтобы давать вам именно ту информацию, которая вам нужна, полезна, интересна или необходима.

То есть 48% – это процент ошибок. Понятно, что сейчас появятся скептики, которые скажут: "У нас же есть платная подписка" или что-то в этом роде. Это не имеет значения. Но усредненно 48% ответов будут ложными, они будут просто придуманы».

Смотрите также:

·        Оцифровка клеток и поиск лекарств: как белорусские ученые используют ИИ в медицине