Учёный Бойцев: длинный промпт не всегда улучшает ответ нейросети

Заместитель директора института математики Университета ИТМО Антон Бойцев в беседе с RT объяснил, когда при работе с нейросетями достаточно обычной инструкции, а в каких случаях стоит добавить в запрос примеры желаемого результата. По его словам, несколько примеров могут повысить точность ответа, однако перегружать ими промпт не всегда имеет смысл.

По словам эксперта, для типичных задач — например, перевода текста, составления краткого резюме или изменения стиля — современной нейросети часто достаточно обычной инструкции.

«Примеры полезны, когда нужно объяснить нестандартное правило или очень точно показать желаемый формат результата», — пояснил собеседник RT.

При этом специалист призвал не руководствоваться принципом «чем больше примеров, тем лучше». В некоторых случаях они действительно повышают качество ответа, но иногда лишь увеличивают объём запроса.

«Для серьёзных задач разные варианты промпта имеет смысл проверять экспериментально», — заявил эксперт.

Бойцев также отметил, что сам по себе длинный промпт не обязательно снижает точность ответа. Проблемы возникают, когда в инструкции становится слишком много второстепенных, конкурирующих или противоречащих друг другу правил и исключений.

«Я бы сформулировал принцип так: важно не минимизировать объём запроса, а максимизировать долю полезной информации. Чем яснее поставлена задача, обозначены приоритеты и отделены исходные данные от инструкций, тем устойчивее обычно получается результат», — подытожил он.

Ранее девелопер Антон Винер рассказал, как соискатели используют ИИ на разных этапах поиска работы.