Почем правильно LLM а не нейросети/ИИ

Термины ИИ/нейросети сильно сбивают с толку. Многие пользователи убеждены, что GPT каким-то образом «моделирует мозг», как минимум использует модель нейрона.

Действительно, первые эксперименты пытались повторить нейрон. Однако его модель очень сильно упрощена. По сути, IT-нейрон — это матрица преобразований, наподобие тех, что используют в 3D-графике, но большей размерности. По факту «модель» нейрона умножает входящий вектор на матрицу и получает другой вектор — фактически идут пространственные преобразования (перевод из одной системы координат в другую). Именно это моделируется, а не нейронная клетка.

Почему именно язык, что моделируется в языке?
Тут важно знать философию XX века, которая, по сути, почти целиком завязана на лингвистике. Раньше, вплоть до XX века, считалось, что язык устроен по типу ключ => значение, означающее и означаемое, и цель в том, чтобы точно понять, что на что указывает.
Потом пришли Соссюр, Витгенштейн, Хайдеггер — и понеслось. Теперь язык — это не связь означающего и означаемого, а многомерный граф, где каждое слово определяется не само по себе, а контекстом и связью с другими словами.
В XX веке возникло очень популярное явление — «язык говорит» и «язык — дом бытия».

Large Language Model моделируют не мозг и нейроны, а, внезапно, язык — т.е. строится связь одного слова/слога/токена с другими. И можно сказать, что когда говорит LLM, это, по сути, близко к хайдеггеровскому «язык говорит».
Прикол в том, что во времена Хайдеггера это была поэтическая метафора, а теперь у нас есть реальная модель, которая делает выводы из самой структуры языка (связи и частотности между словами).

ИИ — это всего лишь метафора, так как слово «интеллект» понять проще, чем лингвистические концепции, и оно, по сути, ни к чему не обязывает. Так-то 2+2 тоже искусственный интеллект считает.
Также это позволяет понять, почему в LLM не может быть воли, личности или сознания.

Назад

Залогинтесь, что бы оставить свой комментарий