Skip to main content

在 GitHub Copilot CLI 中管理上下文

          Copilot了解如何管理对话上下文、长时间会话期间发生的情况,以及如何保持对上下文窗口的控制。

关于上下文窗口

使用 GitHub Copilot CLI时,发送的每个消息、来自每个工具调用及其结果的每个响应 Copilot,以及定义 Copilot行为的系统说明都保存在 上下文窗口中。 上下文窗口是生成响应时 AI 模型可以一次性考虑的总信息量。

上下文窗口具有固定大小(以标记为单位),该大小因模型而异。 令牌通常由短的、常用的单词和多音节单词的片段组成。 随着对话的进行,上下文窗口将填满:

  •         **系统说明和工具定义**:用于说明 Copilot 行为方式的内置说明以及所有可用工具的架构。 这些始终存在,并占用上下文窗口的固定部分。
    
  •         **消息**:你发送的每个提示。
    
  •         **
            Copilot“回应**:一切都 Copilot 给你说回来了。
    
  •         **工具调用和结果**:读取文件、运行命令或搜索代码库时 Copilot ,请求和输出将添加到上下文中。 工具结果可能特别大,例如,如果工具读取长文件或运行生成大量输出的命令。
    

这些都会在上下文窗口中累积。 在长会话或复杂会话中,上下文窗口可以填满。

上下文窗口为何重要

上下文窗口是使Copilot在对话中具有“记忆”的功能。 上下文窗口中的所有内容都可用于 Copilot 在响应时引用。

这意味着,在很长的会话中, Copilot 可能无法同时保存整个对话历史记录。 Copilot CLI 因此具有上下文管理功能,可以有效地让你根据需要与Copilot继续对话。

检查上下文使用情况

可以通过输入 /context 斜杠命令来检查当前正在使用的上下文窗口量。 这会显示令牌使用情况的直观细分,如下所示:

  •         **系统/工具**:系统指令和工具定义的固定开销。
    
  •         **消息**:对话历史记录使用的空间。
    
  •         **可用空间**:为新邮件留出多少空间。
    
  •         **缓冲区**:触发自动上下文管理的保留部分。
    

“/context”CLI 命令的输出的屏幕截图。

在以下情况下,可能需要使用 /context 斜杠命令:

  • 你正在进行长时间的会话,想知道剩余多少空间。
  •         Copilot 似乎忘记了先前谈话的内容。
    
  • 你希望了解压缩是否已发生,或者可能很快就会发生。

压缩

压缩是一个使 GitHub Copilot CLI 能够支持长时间会话而不触及上下文窗口限制的过程。

压缩发生时

当会话达到上下文窗口容量的大约 80% 时, Copilot CLI 会自动开始压缩后台的上下文。 这留出大约 20% 的缓冲余量,以便在压缩进行时,工具调用可以继续运行。 如果在压缩完成之前上下文已填充到大约 95%,Copilot CLI 将短暂暂停以等待压缩完成,然后再继续。

还可以通过输入 /compact 命令随时手动触发压缩。 如果要开始新的工作阶段并想要主动释放上下文空间,这非常有用。 如果改变想法,请按 Esc 取消手动压缩。

压缩的作用

压缩运行时, Copilot CLI:

  1. 拍摄当前聊天历史记录的快照。
  2. 使用特殊提示将完整对话发送到 AI 模型,要求其生成结构化摘要。 在摘要中概述对话的目标、完成工作的内容、关键技术细节、重要的文件和下一步计划。
  3. 将旧的对话历史记录替换为摘要,并保留任何原始用户说明以及任何计划或待办事项列表的当前状态。
  4. 保留在后台运行压缩时添加的任何消息。

结果是将对话历史记录压缩为更小的摘要,从而释放了大多数用于新工作的上下文窗口。 Copilot 使用此摘要来保持连续性(它知道讨论的内容、决定的内容以及下一步操作),即使原始消息已被替换。

压缩不保留什么

压缩是一个汇总过程,因此一些细节不可避免地丢失。 摘要会捕获关键点,但细化的详细信息(如每条消息的确切措辞、每个命令的完整输出或长时间对话中做出的次要决策)可能不包括在内。 如果需要 Copilot 回忆会话初期的某个非常具体的细节,压缩后可能不会保留该信息。

在没有压缩的情况下会发生什么

如果没有压缩,一旦上下文窗口填满,Copilot 就只能简单地回退到从对话历史记录中删除旧消息,而不进行任何摘要或记录。 这意味着突然失去上下文,无法 Copilot 知道已删除的消息中的内容。 压缩通过用智能摘要替代历史记录,而不是抛弃它,从而避免了此问题。

Checkpoints

每次压缩时(无论是自动还是手动)都会创建 检查点 。 检查点是压缩摘要的一个保存副本,被存储为一个在会话工作区中的带有编号标题的文件。

查看检查点

若要查看当前会话中的所有检查点,请输入:

Copilot prompt
/session checkpoints

这会列出每个检查点及其编号和标题:

Checkpoint History (3 total):
  3. Refactoring authentication module
  2. Implementing user dashboard
  1. Initial planning and setup

使用检查点号查看任何检查点的完整内容。 例如,若要查看检查点 2,请输入:

Copilot prompt
/session checkpoints 2

检查点有用时

  •         **查看所发生的事情**:经过长时间的会话和多个压缩,对话的早期阶段不再处于活动上下文中。 检查点允许你回顾Copilot在每个压缩中执行的操作。
    
  •         **验证连续性**:如果您想在 Copilot 继续之前检查其摘要是否准确地反映了您之前的工作,您可以查看最新的检查点。
    
  •         **调试混淆**:如果 Copilot 似乎忘记了决策或正在朝与早期工作相矛盾的方向前进,检查检查点可以揭示出在压缩期间保留了哪些内容,以及哪些可能被总结得与预期不同。
    

注意

  • 自动创建检查点。 无需管理它们 -- 如果需要,它们就在那里。 对于大多数会话,您通常无需查看检查点。
  • 完成压缩后,无法撤消压缩。

使用长时间运行的会话

使用自动压缩可以继续在长时间运行的会话中工作,而无需担心达到上下文窗口的限制。 有时,这非常有用,有时你可能希望启动新的会话。

当长时间会话很有用时

长时间运行的会话在以下情况中效果良好:

  • 你正在处理一个多阶段任务,例如构建一个需要框架、实现、测试然后创建拉取请求的功能。
  • 你正在对某个问题进行迭代,希望 Copilot 能保留已尝试的内容和失败的方法的上下文。
  • 你正在代码库中进行探索性工作,并随着时间的推移与Copilot建立共享理解。

何时启动新会话

当需要以下情况时,启动新会话会更好:

  • 切换到无关的任务。 Copilot 不需要之前工作的上下文,一个清晰的上下文窗口意味着为新任务提供更多的空间。
  • 对话经历了许多压缩,你觉得重要的上下文正在摘要过程中丢失。
  • 你想要一个新的开始,例如,如果工作方向错误,你宁愿重新开始,而不是让 Copilot 尝试将早期决策与新的方法调和。

提示

可以使用命令随时 /resume 恢复以前的会话。 这样,您能够从上次离开的地方继续,包括在该会话期间创建的任何检查点。

延伸阅读

  •         [AUTOTITLE](/copilot/how-tos/copilot-cli)
    
  •         [AUTOTITLE](/copilot/how-tos/use-copilot-agents/use-copilot-cli)
    
  •         [AUTOTITLE](/copilot/reference/copilot-cli-reference/cli-command-reference)