Compactage du contexte

Lorsqu’un agent ADK s’exécute, il accumule du contexte — messages utilisateur, réponses des outils, contenu généré. À mesure que ce contexte augmente, les temps de traitement de LLM augmentent, car davantage de données sont envoyées avec chaque requête. Le compactage du contexte remédie à ce problème en résumant les événements plus anciens selon une approche à fenêtre glissante.

Fonctionnement

Le compactage du contexte utilise une fenêtre glissante pour résumer périodiquement les anciens événements de conversation au sein d’une session. Lorsque le nombre d’invocations terminées atteint l’intervalle configuré, le résumeur compresse les anciens événements en un seul événement de résumé.

Invocations 1-3: [event1, event2, event3] → Summarized into "Summary A"
Invocations 4-6: [Summary A, event3, event4, event5, event6] → Summarized into "Summary B"

Le paramètre overlap_size contrôle le nombre d’événements de la fenêtre précédente reportés dans le résumé suivant, afin de préserver la continuité.

Configuration

Ajoutez le compactage à la configuration de votre exécuteur :

use adk_agent::LlmEventSummarizer;
use adk_runner::{Runner, RunnerConfig, EventsCompactionConfig};
use std::sync::Arc;

// Use any LLM for summarization (a fast, cheap model works well)
let summarizer_llm = Arc::new(my_model);
let summarizer = Arc::new(LlmEventSummarizer::new(summarizer_llm));

let runner = Runner::new(RunnerConfig {
    app_name: "my_app".to_string(),
    agent: root_agent,
    session_service: sessions,
    artifact_service: None,
    memory_service: None,
    plugin_manager: None,
    run_config: None,
    compaction_config: Some(EventsCompactionConfig {
        compaction_interval: 3,  // Compact every 3 invocations
        overlap_size: 1,         // Keep 1 prior invocation for context
        summarizer,
    }),
})?;

Paramètres de configuration

Résumeur personnalisé

Vous pouvez personnaliser l’invite de résumé :

let summarizer = LlmEventSummarizer::new(llm)
    .with_prompt_template(
        "Summarize this conversation focusing on action items \
         and decisions:\n\n{conversation_history}"
    );

Ou implémenter BaseEventsSummarizer pour un contrôle total :

use adk_core::{BaseEventsSummarizer, Event, Result};
use async_trait::async_trait;

struct MySummarizer;

#[async_trait]
impl BaseEventsSummarizer for MySummarizer {
    async fn summarize_events(&self, events: &[Event]) -> Result<Option<Event>> {
        // Custom summarization logic
        // Return None to skip compaction for this window
        todo!()
    }
}

Impact de la compaction sur l’historique

Lorsque conversation_history() est appelé sur une session comportant des événements de compaction :

1. L’événement de compaction le plus récent est identifié
2. Son résumé remplace tous les événements jusqu’à la limite de compaction
3. Seuls les événements postérieurs à la limite sont inclus individuellement

Cette opération est transparente pour les agents : ils reçoivent un historique de conversation cohérent qui comprend le résumé, suivi des événements récents.

Chronologie d’exemple

Avec compaction_interval: 3 et overlap_size: 1 :

Après l’invocation 6, l’agent voit : [Summary B, event 6 overlap events, event 7+]

Notes

• L’échec de la compaction n’est pas fatal — le runner consigne un avertissement et continue
• La compaction s’exécute après la fin du flux d’invocations, et non pendant celui-ci
• L’événement de compaction est conservé dans le service de session pour assurer sa durabilité
• Utilisez un modèle rapide et peu coûteux pour le résumé (par exemple, gemini-3.5-flash-lite)