Ранее я написал обширную статью про попытки сделать разговоры с NPC SkyrimNet более живыми, но упустил главное… Не рассказал, как вообще устроен NPC изнутри. Что происходит, когда вы дописываете реплику от лица своего персонажа и нажимаете Enter?
А происходит вот что: в диалоговую нейронку отправляется километровый запрос. Для каждой новой реплики он формируется заново целиком. Но, всем продвинутым пользователям LLM-ок это и так очевидно.
Память
Самая важная часть пакета – память NPC. У неё 3 слоя: