Наш мозг и большие языковые модели обрабатывают язык похожим образом

Google подробно описала весь процесс в своем блоге. Исследователи следили за тем, как «думает» модель Whisper и записывали активность мозга человека. После сравнения результатов были выявлены следующие закономерности:

• Работа больших языковых моделей (LLM) напоминает обработку речи в мозге. Их внутренние представления слов схожи с нейроактивностью в зонах, отвечающих за язык.
• Когда мы слышим речь, сначала активируется слуховая кора, затем зоны смысла. Когда говорим — сначала планируем слова, потом включаются моторные области, а после — анализируем сказанное. Нейросети же работают на статистике, но при этом их предсказания следующего слова почти совпадают с тем, что «генерирует» наш мозг.

Скайнет потихоньку перестает быть научной фантастикой.

• GPT News | ChatGPT BOT