" Исследователи из EPFL создали модель TopoLM, которая не только имитирует функциональные кластеры нейронов, как предыдущие модели, но и впервые учитывает их пространственную организацию в мозге.
Это новая история, так как модель отражает, как нейроны, отвечающие за обработку языка, группируются в коре головного мозга, и предлагает гипотезу, что их организация подчиняется простому правилу: близкие нейроны ведут себя схожим образом. TopoLM также улучшает интерпретируемость LLM, позволяя видеть значимые кластеры, что упрощает понимание их работы.
Большинство языковых моделей, например, GPT или BERT фокусируются на функциональности, игнорируя топографию. TopoLM ближе к биологической реальности, что делает его ближе в области нейро ИИ. В мире активно исследуют связь ИИ и нейронаук, например, работы DeepMind или MIT по моделированию мозга, но конкретно пространственно-функциональная организация в языковых моделях — менее изученная ниша. Это фундаментальное исследование, пока не проверенное на людях. Модель предсказывает кластеры, которые еще не наблюдались в мозге, и их существование нужно подтвердить экспериментально. Также практические приложения (например, помощь при языковых расстройствах) пока только потенциальны.
