Что такое Algorithm of Thoughts (АоТ) - «алгоритм мышления»?

Алгоритм оценивает, являются ли первоначальные шаги — «мысли», если использовать слово, обычно ассоциирующееся только с людьми, — правильными, тем самым избегая ситуации, когда ранняя неправильная «мысль» приводит к абсурдному результату.

Microsoft, создатель OpenAI, 20 августа 2023 года опубликовала совместно с Техническим университетом Вирджинии, официальный документ в котором представила свой новаторский «Алгоритм мышления» (AoT). Этот новый подход к ИИ направлен на то, чтобы заставить большие языковые модели (LLM), такие как ChatGPT, обучаться с прогрессом, «сродни человеческому».

AoT претендует на то, чтобы выйти за рамки предыдущих методов обучения LLM. В статье делается смелое заявление: «наши результаты показывают, что обучение LLM с использованием алгоритма может привести к производительности, превосходящей производительность самого алгоритма».

Microsoft утверждает, что AoT объединяет «нюансы человеческого мышления и дисциплинированную точность алгоритмических методологий».

Звучит смелое заявление, но само по себе это стремление не является чем-то новым. «Машинное обучение», основатель которого Артур Сэмюэл определил как «область исследований, которая дает компьютерам возможность учиться без специального программирования», зародилось еще в 1950-х годах. В отличие от традиционного компьютерного программирования, где программист должен создать подробный список инструкций, которым компьютер должен следовать для достижения поставленной задачи, машинное обучение использует данные для обучения компьютера, чтобы он научился находить закономерности и решать проблемы. Другими словами, действуйте способом, отдаленно напоминающим человеческое познание. ChatGPT от OpenAI использует категорию машинного обучения под названием RLHF (обучение с подкреплением на основе отзывов людей), что придает ему двусторонний характер «разговоров» с пользователями-людьми.

AoT выходит даже за рамки этого, заявляя, что превосходит так называемый подход «Цепочки мыслей» (CoT).

Если все изобретения являются попыткой решить существующую проблему статус-кво, можно предположить, что AoT был создан для устранения недостатков подхода цепочки мыслей. По словам Microsoft, в COT студенты LLM находят решение, разбивая подсказку или вопрос на «более простые линейные шаги для получения ответа». Хотя это огромный шаг вперед по сравнению со стандартными подсказками, которые включают в себя один простой шаг, они таят в себе определенные подводные камни.

Означает ли это, что алгоритм становится умнее... самого себя?

Иногда в нем представлены неправильные шаги для получения ответа, поскольку он создан для того, чтобы основывать выводы на прецеденте. И прецедент, основанный на определенном наборе данных, ограничен пределами этого набора данных. Это, по словам Microsoft, приводит к «увеличению затрат, памяти и вычислительных затрат».

AoT спешит на помощь. Алгоритм оценивает, являются ли первоначальные шаги — «мысли», если использовать слово, обычно ассоциирующееся только с людьми, — правильными, тем самым избегая ситуации, когда ранняя неправильная «мысль» приводит к абсурдному результату.

Хотя это прямо не заявлено Microsoft, можно предположить, что если AoT — это то, чем его считают, это может помочь смягчить так называемые «галлюцинации» ИИ — забавный, тревожный феномен, посредством которого такие программы, как ChatGPT, выдают ложную информацию. В одном из наиболее громких примеров в мае 2023 года юрист по имени Стивен А. Шварц признался, что «консультировался» с ChatGPT в качестве источника при проведении исследования для 10-страничного обзора.

 Проблема: в  брифе несколько судебных решений упоминались как юридические прецеденты, которых никогда не существовало.

«Уменьшение галлюцинаций является важным шагом на пути к созданию согласованного AGI», — говорится в сообщении OpenAI на своем официальном сайте.