跳到正文
视频

你在 Claude Code 里按下回车,提示词去了哪里?

按下回车,你的提示词作为一个请求离开电脑:经过路由器,可能跨越一片海洋,到达数据中心,由芯片运行模型,再一个 token 一个 token 地传回来。一支 48 秒的科普视频,以及让它成为智能体的那个循环。

发布于
阅读
约 3 分钟
标签
  • ai
  • claude-code
  • explainer
目录
  1. 一个请求,不只是你的提示词
  2. 可能要跨越一片海洋
  3. 芯片、层、token
  4. 这个循环就是智能体
  5. 总结
  6. 来源

一句话总结: 在 Claude Code 里按下回车,你的提示词会连同上下文(之前的对话、指令、工具和它读过的文件)作为一个请求离开电脑,通过 HTTPS 发往 Anthropic 的 API,可能经海底光缆跨越一片海洋,到达数据中心,由 AI 芯片运行模型。回复一个 token 一个 token 地流回来。有时回复是一个请求:读一个文件,或在你的电脑上运行一条命令。Claude Code 会在设置为需要询问的地方先问你,再执行,并把结果发回去。这个循环就是智能体。

一个请求,不只是你的提示词

Claude Code 运行在你的电脑上。用 Anthropic 的话说,它会"reads your codebase, edits files, runs commands, and integrates with your development tools"(读取代码库、编辑文件、运行命令,并接入你的开发工具)。按下回车后,它通过 HTTPS 向 Claude API 发送请求,这个 API 的地址是 https://api.anthropic.com。

这个请求带的不只是你输入的内容。请求里的所有东西都算进模型的上下文窗口:"the system prompt, every message in messages (including tool results, images, and documents), and your tool definitions"(系统提示、messages 里的每条消息,包括工具结果、图片和文档,以及你的工具定义)。

可能要跨越一片海洋

请求从你的路由器、你的网络服务商出发,经互联网到达运行模型的地方。洲与洲之间,通常走的是海底光缆:TeleGeography 估计,海底光缆承载了"over 99%"(超过 99%)的洲际数据流量(卫星流量无法精确测量)。

它落在哪里,不一定离你很近。Anthropic 的 API 默认设置是"inference may run in any available geography"(推理可能在任何可用地区运行),只有设为 us 才会限定在美国境内的基础设施。所以数据中心可能远在大洋彼岸。

芯片、层、token

在数据中心里,由 AI 芯片运行模型。Anthropic 用"AWS Trainium, Google TPUs, and NVIDIA GPUs"训练和运行 Claude。模型一次算出回复里的一个 token(视频把它画成一层层叠起来的样子,只是示意,不是真实架构)。

回复不用等全部写完才发回。开启流式传输后,API 会"incrementally … using server-sent events (SSE)"(用服务器推送事件逐步发送),每写出一个 token,就沿原路传回来。

这个循环就是智能体

有时传回来的不是文字,而是一个要做事的请求:读一个文件,运行一条命令。用 API 的说法,Claude 会回复一个 tool_use 块,"your code runs the operation and sends back a tool_result"(你的代码执行这个操作,并发回一个 tool_result)。在这里,"你的代码"就是你电脑上的 Claude Code。

它会先问你。在默认的手动模式下,Claude Code 运行 Bash 命令前(内置的一组只读命令除外)和修改文件前都会先征求同意。你批准,它就在你的电脑上执行,结果作为下一个请求发回去。如此反复,直到任务完成:这个循环就是智能体。

总结

Claude Code 是你的电脑和远方数据中心里的模型之间的一个循环。任何在你电脑上运行的东西,都是 Claude Code 运行的,而且是在设置为需要询问的地方先问过你之后。

来源

视频用代码制作动画(在 Blender 中渲染),脚本在 AI 辅助下撰写;上面每条事实都对照来源核实过。示意部分:路线(一家网络服务商、一条光缆、一个数据中心)、画成一层层的模型,以及屏幕上的文字。本文是独立的科普内容,与 Anthropic 无关。视频为英文。视频用 Shotloop 制作:我做的免费 Mac 应用,用代码做科普短视频,一个镜头一个镜头地改。

关注我

我会持续分享正在做的项目、实验和经验。

YouTube 上发视频,X 上发短笔记。这里的每篇文章都会链接到两边。

YouTube