01
Как рождается ответ
03 / 14
Что модель видит в контексте
Модель отвечает только по информации, которая попала в её .
01 — это весь текст, доступный модели на текущем шаге. В нём могут находиться системная инструкция, история диалога, сообщение пользователя и уже написанная часть ответа. Метки ролей помогают различить эти части.
02Сайт или приложение может добавить найденные документы и результаты инструментов. Но сама по себе LLM не открывает интернет, файлы или базы данных: внешняя информация должна быть передана ей явно.
03Размер окна ограничен. Текст за его границей недоступен, а наличие детали внутри окна ещё не гарантирует, что модель использует её правильно.
СистемаОтвечай кратко и по-русски
ИсторияПользователь изучает LLM
ИнструментФрагмент найденного документа
Вне окнаСтарое сообщение
Интернет и файлы появляются здесь только через приложение или инструмент.