Qu'est-ce que la fenêtre de contexte ?
Mis à jour le
La mémoire de travail de l'IA
Lorsque vous posez une question à un modèle d'intelligence artificielle, celui-ci ne lit pas seulement votre dernier message : il prend en compte l'ensemble du texte qu'il a devant lui à cet instant précis. Ce texte comprend votre message, les échanges précédents de la conversation et la réponse qu'il est en train de construire. C'est ce bloc de texte que l'on appelle la fenêtre de contexte.
Une bonne image est celle d'un bureau de travail. Vous pouvez y étaler autant de feuilles que votre bureau le permet : au-delà, il n'y a plus de place et les premières feuilles tombent. La fenêtre de contexte fonctionne de la même manière : elle a une taille maximale, exprimée en tokens. Tout ce qui entre dans cette fenêtre est visible pour le modèle ; tout ce qui en sort est oublié.
Cette mémoire de travail est temporaire et locale à chaque conversation. Le modèle ne retient rien d'une session à l'autre : chaque nouvelle conversation repart d'une page blanche.
Pourquoi l'IA oublie-t-elle le début d'un long échange
La taille de la fenêtre de contexte est fixée par la conception du modèle de langage. Elle peut accueillir des dizaines, voire des centaines de milliers de tokens selon le modèle — mais cette capacité reste finie. Voici ce qui se passe à mesure qu'une conversation s'allonge :
| Stade de la conversation | Ce que le modèle voit |
|---|---|
| Début (quelques échanges) | La totalité de l'historique, depuis le premier message |
| Milieu (échange soutenu) | La majorité de l'historique ; les tout premiers échanges commencent à sortir |
| Fin (très long échange) | Uniquement les messages récents ; le début de la conversation est hors fenêtre |
Quand un message sort de la fenêtre, le modèle ne peut plus s'y référer. Il peut alors sembler oublier une consigne donnée au tout début, ou ne plus tenir compte d'un élément de contexte établi plusieurs dizaines de messages plus tôt. Ce n'est pas un dysfonctionnement : c'est simplement la conséquence naturelle de cette limite de taille.
Le lien avec les tokens
La fenêtre de contexte et les tokens sont directement liés. Chaque texte présent dans la fenêtre au moment d'un appel — votre message, l'historique, les instructions éventuelles, et la réponse générée — est compté en tokens et contribue au coût de l'opération.
Concrètement, cela signifie que :
- Un historique de conversation long occupe plus de tokens qu'un échange court, même si votre dernier message est bref.
- Joindre un document volumineux à votre message augmente la taille de la fenêtre et donc la consommation.
- Les instructions détaillées ou les exemples que vous ajoutez en début de conversation occupent de la place dans chaque appel, tant qu'ils restent dans la fenêtre.
Pour en savoir plus sur la façon dont les tokens sont prélevés sur votre réservoir, consultez la page Tokens et réservoir.
Comment faire en pratique
La limite de la fenêtre de contexte est rarement un problème dans un usage courant. Elle devient perceptible principalement lors de sessions de travail très longues ou lorsqu'on cherche à analyser des documents très volumineux. Voici quelques habitudes utiles :
- Rappeler les informations clés en début de message quand elles ont été données loin dans l'historique (« Pour rappel, le texte dont nous discutons est… »).
- Résumer les étapes importantes avant de passer à une nouvelle phase de travail. Demandez au modèle de faire lui-même ce résumé : c'est souvent efficace.
- Démarrer une nouvelle conversation quand vous changez de sujet. Copiez-y les éléments vraiment essentiels : vous repartez sur une base propre et économisez des tokens en n'emportant que ce qui est utile.
- Être concis dans vos messages et instructions. Un message court laisse plus de place dans la fenêtre pour l'historique et pour la réponse du modèle.
Dans Modik, la conversation prend en compte les messages récents de l'échange en cours. Pour aborder un nouveau sujet sans risque de confusion, démarrer une nouvelle conversation est toujours la meilleure option.
Questions fréquentes
L'IA se souvient-elle de mes conversations passées ?
Non. Chaque conversation repart de zéro : le modèle ne conserve aucune mémoire entre deux sessions distinctes. Seul l'historique présent dans la fenêtre de contexte de la conversation en cours est accessible. Si vous fermez une conversation et en ouvrez une nouvelle, le modèle repart d'une page blanche.
Pourquoi l'IA oublie-t-elle ce que j'ai dit au début d'un long échange ?
Parce que la fenêtre de contexte a une taille maximale exprimée en tokens. Quand un échange devient très long, les messages les plus anciens sortent progressivement de cette fenêtre pour laisser de la place aux échanges récents. Le modèle ne les voit alors plus et ne peut plus s'y référer.
Comment contourner cette limite ?
Plusieurs approches sont efficaces : rappeler les informations importantes en début de message (« Pour rappel, le projet dont nous parlons est… »), résumer ce qui a été dit avant d'aller plus loin, ou tout simplement démarrer une nouvelle conversation en y copiant les éléments clés. C'est souvent la solution la plus propre pour changer de sujet.
Une grande fenêtre de contexte coûte-t-elle plus de tokens ?
Oui. Chaque token présent dans la fenêtre au moment de l'appel contribue au coût total. Un historique très long, un document joint volumineux ou des instructions détaillées augmentent le nombre de tokens traités, et donc la consommation prélevée sur votre réservoir.
Dois-je tout répéter à chaque message ?
Pas nécessairement. Tant que la conversation reste courte, le modèle retient tout ce qui a été échangé depuis le début. C'est seulement dans les échanges très longs, ou après avoir ouvert une nouvelle conversation, que vous avez intérêt à rappeler les informations essentielles.
Une question sur Modik ? Le plus simple est encore d'essayer.
Ouvrir Modik