LLM галлюцинирует, впрочем, все видели, как это выглядит. Модель уверенно, связно, с правильной интонацией и терминологией сообщает то, чего нет. Инженеры считают это багом, который чинят и вот-вот починят.
Не починят. Это не техническая ошибка, а неотъемлемое свойство языка, которое машина сделала видимым.
Язык не нуждается в реальности
Язык — уникальная система именно в том, что появляется из реальности, но для собственной связности в реальности не нуждается.