context-manager
Gestion avancée du contexte pour agents IA — fenêtre de contexte, compression, RAG dynamique, sliding window, prompt caching. Se déclenche avec "context window", "contexte agent", "token limit", "context management", "context overflow", "trop de contexte", "agent context", "context stuffing", "context compression". Also triggers on "agent context window", "manage agent context".
khalilbenaz · 已有静态检查记录
安装与使用
运行命令前先阅读来源与依赖说明。复制命令不会自动安装或执行。
npx skills add khalilbenaz/claude-skills-collection --skill context-manager技能说明
name: context-manager description: Gestion avancée du contexte pour agents IA — fenêtre de contexte, compression, RAG dynamique, sliding window, prompt caching. Se déclenche avec "context window", "contexte agent", "token limit", "context management", "context overflow", "trop de contexte", "agent context", "context stuffing", "context compression". Also triggers on "agent context window", "manage agent context".
Agent Context Manager
Quand utiliser ce skill
- L'agent retourne
context_length_exceededou une erreur 413/400 équivalente - Les coûts de tokens dépassent le budget prévu
- Tu conçois un agent avec sessions multi-tours longues ou documents volumineux
- Tu dois implémenter une mémoire persistante entre sessions
Fenêtres de contexte de référence (2026)
| Modèle | Fenêtre | Prompt cache natif |
|---|---|---|
| Claude 3.7 Sonnet | 200 k tokens | Oui (Anthropic API) |
| GPT-4o | 128 k tokens | Oui (OpenAI API) |
| Gemini 2.0 Flash | 1 M tokens | Oui (Google AI) |
| Llama 3.3 70B | 128 k tokens | Non (self-hosted) |
Workflow en 10 étapes
1. Cartographier le budget par couche
Avant tout code, décompose la fenêtre en couches fixes et dynamiques :
Fenêtre totale = 200 000 tokens
├── System prompt (fixe) ~ 2 000 (1 %)
├── Descriptions d'outils (fixe) ~ 3 000 (1.5 %)
├── Mémoire long terme ~ 5 000 (2.5 %)
├── Contexte RAG injecté ~ 20 000 (10 %)
├── Historique conversation ~ 40 000 (20 %)
├── Réponse réservée ~ 10 000 (5 %)
└── Marge sécurité (10 %) ~ 20 000
Définis deux seuils : alerte 80 % (log warning), action 90 % (compression obligatoire).
2. Compter les tokens précisément
# OpenAI / tiktoken
import tiktoken
enc = tiktoken.encoding_for_model("gpt-4o")
n_tokens = len(enc.encode(text))
# Anthropic SDK
import anthropic
client = anthropic.Anthropic()
response = client.messages.count_tokens(
model="claude-sonnet-4-5",
system=system_prompt,
messages=messages,
)
print(response.input_tokens) # total exact avant envoi
Appelle le comptage avant chaque appel API, pas après. C'est le seul moyen de gérer proactivement.
3. Choisir la stratégie de contexte
| Situation | Stratégie recommandée |
|---|---|
| Conversation courte, budget abondant | Verbatim — rien à faire |
| Historique long mais requêtes récentes dominantes | Sliding window |
| Documents volumineux, requête ponctuelle | RAG dynamique |
| Sessions très longues (agent autonome multi-jours) | Résumé progressif + LTM externe |
| Coût critique (prod haute volumétrie) | Prompt caching + compression agressive |
4. Sliding window sur l'historique
Conserve les N derniers échanges verbatim, résume le reste via un modèle léger :
WINDOW_VERBATIM = 10 # derniers échanges complets
def build_history(messages: list[dict], max_tokens: int) -> list[dict]:
recent = messages[-WINDOW_VERBATIM:]
older = messages[:-WINDOW_VERBATIM]
if not older:
return recent
summary = summarize_with_cheap_model(older) # gpt-4o-mini, claude-haiku
summary_msg = {
"role": "system",
"content": f"[RÉSUMÉ DES ÉCHANGES PRÉCÉDENTS]\n{summary}"
}
return [summary_msg] + recent
Format du résumé attendu du modèle léger :
- Décisions prises : ...
- Faits établis : ...
- Contexte utilisateur : ...
- Tâches en cours : ...
5. RAG dynamique — injection à la demande
Ne pas injecter tous les documents au départ. Injecter uniquement ce dont la requête a besoin :
def inject_rag_context(query: str, vector_store, top_k=5, min_score=0.75):
results = vector_store.similarity_search_with_score(query, k=top_k)
relevant = [doc for doc, score in results if score >= min_score]
if not relevant:
return ""
chunks = "\n\n---\n\n".join(doc.page_content for doc in relevant)
return f"[CONTEXTE DOCUMENTAIRE PERTINENT]\n{chunks}"
Utilise un reranker (Cohere Rerank, cross-encoder ms-marco-MiniLM) après le retrieval vectoriel pour améliorer la précision sans augmenter le top_k.
6. Compression de l'historique par LLM léger
Quand le seuil d'action (90 %) est atteint :
COMPRESSION_PROMPT = """
Tu reçois un historique de conversation entre un agent IA et un utilisateur.
Résume-le en conservant UNIQUEMENT :
1. Les décisions prises et leur justification
2. Les contraintes et préférences exprimées par l'utilisateur
3. L'état courant de la tâche principale
4. Les informations factuelles établies (dates, noms, valeurs numériques)
Sois concis. Élimine les reformulations, hésitations et confirmations de politesse.
"""
def compress_history(history: list[dict]) -> str:
response = cheap_llm.invoke(COMPRESSION_PROMPT + format_history(history))
return response.content
Mesure le taux de rétention : vérifie que les 5 dernières décisions critiques sont dans le résumé avant de supprimer l'original.
7. Assemblage final du contexte
Ordre optimal d'injection dans le prompt :
[SYSTEM PROMPT]
→ Instructions système permanentes
[MÉMOIRE LONG TERME]
→ Faits persistants sur l'utilisateur/projet
[CONTEXTE RAG]
→ Chunks documentaires pertinents à la requête
[RÉSUMÉ HISTORIQUE]
→ Résumé des échanges anciens (si sliding window active)
[HISTORIQUE RÉCENT]
→ N derniers échanges verbatim
[REQUÊTE COURANTE]
→ Message utilisateur actuel
Utilise des délimiteurs XML explicites (<memory>, <context>, <history>) pour améliorer la compréhension par le modèle et faciliter le debug.
8. Prompt caching — activer systématiquement
# Anthropic — cache_control sur les blocs stables
messages = [
{
"role": "user",
"content": [
{
"type": "text",
"text": long_stable_document,
"cache_control": {"type": "ephemeral"} # TTL 5 min
},
{"type": "text", "t
阅读完整来源 ↗