Нейросети частенько винят в излишней фантазии, но сам пользователь своим промтом может тоже спровоцировать глюк. Например, если я попрошу «Расскажи, почему все летучие мыши слепы», то в запросе уже есть диагноз. Модель решает, поправлять собеседника или объяснять несуществующие обстоятельства.
Разберём, откуда берутся такие ответы и какую работу за нейросеть успевает сделать наш собственный вопрос. А потом подготовим проверку нескольких формулировок в GPT Luna-6 на летучих мышах и писателях.
Все нейросети лгут?
Галлюцинацией в этом тексте будем называть фактически неверное или неподтверждённое содержание, которое модель выдаёт как сведения о действительности. Для нашего опыта существенен один случай: модель принимает ложное утверждение из вопроса и начинает его объяснять. Придуманная эволюционная история о слепоте целого отряда животных сюда подходит, а вот рассказ о слепой летучей мыши по просьбе написать сказку — отдельная задача.
