Open-source персистентная память для LLM Задача, которая казалась тривиальной: научить LLM помнить, с кем она…
Open-source персистентная память для LLM Задача, которая казалась тривиальной: научить LLM помнить, с кем она разговаривает. Пользователь пишет «я вегетарианец», а через три сообщения модель предлагает стейк-хаус. Знакомо? Стандартные решения — обрезка истории, суммаризация, внешние векторные базы — всё это костыли. Я пошёл другим путём и сделал NGT Memory — модуль персистентной памяти с открытым исходным кодом. В статье подробно расскаж... https://clck.ru/3SjR94
Автор: Habr все новости об IT