" Исследователи из Google Research представили Atlas - новую архитектуру, которая фундаментально меняет подход к памяти в нейросетях. Ключевая идея Atlas - научить ИИ-модель запоминать контекст, а не отдельные токены.
Впервые ИИ может эффективно работать с контекстом в 10 миллионов токенов (это примерно 15 романов "Война и мир"), сохраняя 80% точность понимания. Atlas превосходит Titans и другие линейные RNN.
Теперь:
1. Обработка сверхдлинных документов: юридические контракты, научные статьи, исторические архивы.
2. Настоящая долговременная память для ИИ: модели смогут помнить весь контекст длинных диалогов.
3. Это новое понимание того, как должна работать память в нейросетях.
