Что такое токены с точки зрения денег и лимитов?

Junior PRO

Суть

Модели читают и пишут не буквами и не словами, а токенами — кусочками текста. Токены — это одновременно единица цены (по API платят за миллион токенов), единица лимитов (подписки и rate limits считаются в них) и единица размера контекстного окна. Понимание того, откуда берутся токены, объясняет, почему одна сессия с агентом стоит копейки, а другая съедает дневной лимит.