Token
Définition
A token is the fundamental unit of text that large language models process. In English, one token is roughly 3/4 of a word (100 tokens ≈ 75 words). LLM providers charge based on token consumption: input tokens (your prompt and context) plus output tokens (the model's response). Understanding tokens is essential for managing AI costs and staying within model context windows.
Token Tracking in JieGou
JieGou tracks input and output tokens for every recipe run and workflow execution. This data feeds into per-recipe, per-workflow, and per-department cost dashboards. With BYOK, tokens are billed directly to your provider account at their standard rates.
Context Windows
Each LLM has a maximum context window — the total number of tokens it can process in one request (prompt + response). Claude supports up to 200K tokens, GPT-4 up to 128K. JieGou's RAG system is designed to stay within these limits by retrieving only the most relevant document chunks.
Termes associés
Recettes IA
Découvrez ce que sont les recettes IA et comment elles fonctionnent dans JieGou. Les recettes sont des blocs de construction IA réutilisables à opération unique, avec des entrées et sorties structurées.
BYOK (Bring Your Own Key)
Découvrez ce que signifie le BYOK pour l'automatisation IA. Bring Your Own Key vous permet de connecter vos propres clés API LLM à JieGou pour un contrôle total des coûts et la confidentialité des données.
Large Language Model (LLM)
A large language model (LLM) is an AI system trained on text data that can understand and generate human language, powering tasks like writing, analysis, and reasoning.
En savoir plus
Constatez par vous-même
Commencez dès maintenant à créer des automatisations IA avec des recettes et des workflows.