Нейросеть сбрасывает «балласт человечества» и становится сильней: IT-эксперт пояснил механизм на шахматах

Большие языковые модели (LLM) способны обучаться до уровня, превосходящего возможности любого человека на Земле, после чего начинают формировать собственные уникальные датасеты, полностью игнорируя «балласт» накопленных человечеством данных. Принципы работы современных нейросетей на примере шахматных алгоритмов в эфире программы «Марков. Ничего личного» на телеканале ОНТ объяснил IT-эксперт Дмитрий Шоломицкий.

Дмитрий Шоломицкий: «Архитектура LLM устроена таким образом, что сначала вы описываете все математически, затем создаете ее, а в последующем должны обучить. Давайте рассмотрим простой пример: программа – например, поиграем в шахматы. Сначала система не понимает, что такое шахматы. Она в принципе не понимает, что играет в шахматы, но умеет оптимизировать задачу – у нее есть такой алгоритм. Мы начинаем играть, сначала она вообще не умеет, потом играет как человек, а на каком-то этапе начинает играть лучше любого человека на Земле, становясь абсолютным суперчемпионом.

Но что происходит дальше, когда она подходит к этому пределу? Ведь мы обучаем ее на самых лучших человеческих играх, которые загрузили в нее. Мы обучаем ее на том, что считаем правильным. Но машина, будучи слишком умной, делает следующее: она начинает формировать собственный датасет, собственную базу данных, на которой и становится суперчемпионом. Играя сама с собой, она игнорирует весь этот балласт человечества, который мы в нее загрузили. Она сомневается, она рассуждает: "Так, так, так..." То есть она оценивает уже свою собственную игру. И формируя свой датасет, тренируясь и играя сама с собой, она становится суперигроком, полностью игнорируя те игры, которые загрузили мы. И так происходит с каждой областью, принцип работы которой ей понятен».

Смотрите также: 

·        Почти половина ответов – ложь: IT-эксперт озвучил шокирующую статистику ошибок нейросетей

·        Оцифровка клеток и поиск лекарств: как белорусские ученые используют ИИ в медицине