По результатам статьи «Prompt injection — лучше один раз увидеть», у меня остались не только запущенные размышления и дальнейшие эксперименты, но и бросающаяся в глаза подпись «Не вѣръ чужимъ рѣчамъ, а вѣръ своимъ очамъ (СЛОВАРЬ АКАДЕМІИ РОССІЙСКОЙ, 1806)», которую некоторые ИИ-сервисы теперь пишут мне при каждом ответе. И сегодня, читая очередные рассказы о том, как какая-то ИИшка строго настрого отказывалась отвечать на не те вопросы, но была уболтана, я снова вспомнил о том, что «это не баг, а фича». А раз фича, то давайте использовать её во благо себе. Хотя бы попытаемся.
0. Это не сбой, а желаемый функционал
Снова напомню, что промпт-инъекции это то, ради чего мы нанимаем себе высокотехнологичных обученных экспертов (в просторечии именуемых Искусственный Интеллект на основе Больших Языковых Моделей).
Они должны загрузить в свою голову всё что мы им дали и всё что мы им сказали, и сами принять решения о том, что именно мы имеем в виду и как дать нам нужный ответ. При этом, они должны сами оценить то, какая именно информация важна, а какую стоит игнорировать.
