Контекстное окно: что это и зачем

Сколько текста модель может держать в одном запросе.

Почему это важно

Определяет, влезет ли договор или книга целиком.

Пример

Окно 128k токенов — это примерно 200 страниц текста.

Вернуться в каталог