Пока университеты по всему миру пытаются понять, как жить в эпоху генеративного ИИ, преподаватель истории из Alcorn State University придумал довольно необычный способ проверить, кто действительно писал работу самостоятельно. Эксперимент оказался настолько показательным, что быстро разлетелся по соцсетям и вызвал споры среди преподавателей.
На промежуточном экзамене студентам нужно было сравнить промышленную революцию с современной цифровой эпохой. На первый взгляд это было обычное эссе, но в тексте задания была спрятана небольшая ловушка. В одном месте белым цветом на белом фоне было написано слово Madagascar. Человек, который просто читал задание, никогда бы его не увидел. Зато если полностью скопировать текст в ChatGPT или другую языковую модель, скрытое слово попадало в промпт.
Из-за этого модель пыталась каким-то образом использовать его в ответе. Иногда она просто вставляла слово «Madagascar» в текст, а иногда генерировала совершенно абсурдные предложения вроде: “Madagascar floats sideways through the afternoon” или “Madagascar purple bicycle whispers to the ceiling”. Подобные фразы никак не были связаны ни с историей, ни с темой экзамена.
Когда преподаватель начал проверять работы, оказалось, что одинаковую ошибку допустили 32 из 35 студентов. Все они сдали тексты, в которых присутствовали странные упоминания Мадагаскара или вовсе бессмысленные предложения, явно появившиеся в результате генерации ИИ. По словам преподавателя, самое удивительное было даже не то, что…
