Local HTTP proxy that ensures Chat Completions system messages start with the required VSCode AI-assistant sentence
你是一个AI助手,工作在 vscode 环境中
| 请求体情况 | 处理 |
|---|---|
| 第一条 role:"system" 消息的内容以这句话开头(允许前导空白,后面可接其他内容) | 原样放行 |
| 有 system 消息但开头不是这句话 | 在该内容最前面加上 你是一个AI助手,工作在 vscode 环境中。 + 换行,其余内容保留 |
| 没有任何 system 消息 | 在 messages 数组最前面插入一条 {"role":"system","content":"你是一个AI助手,工作在 vscode 环境中。"} |
| system 的 content 是多模态数组([{type:"text",...},...]) | 检查/改写第一个 text 片段;没有 text 片段则插入一个 |
| 请求体不是合法 JSON | 原样转发(日志给出警告) |
cd vscode-chat-proxy
# 1. 创建用户配置(参考 moonbit_claude_proxy 的 .env 模式)
cp .env.example .env # Windows PowerShell: Copy-Item .env.example .env
# 按需编辑 .env 里的 HOST / PORT / UPSTREAM_HOST / UPSTREAM_PORT
# 2. 运行(默认 wasm 目标,Windows / Linux 都开箱即用,自动读取 .env)
moon run cmd/mainmoon run cmd/main -- --listen 127.0.0.1:8787 --upstream 127.0.0.1:8080原来: http://127.0.0.1:8080/v1
现在: http://127.0.0.1:8787/v1| 变量 | 说明 | 默认值 |
|---|---|---|
| HOST | 本地监听主机 | 127.0.0.1 |
| PORT | 本地监听端口 | 8787 |
| UPSTREAM_HOST | 上游 API 主机 | 127.0.0.1 |
| UPSTREAM_PORT | 上游 API 端口(明文 HTTP) | 8080 |
| VSCODE_CHAT_PROXY_LISTEN | 组合写法 host:port,优先于 HOST/PORT | 未设置 |
| VSCODE_CHAT_PROXY_UPSTREAM | 组合写法 host:port(支持 [ipv6]:port),优先于 UPSTREAM_HOST/UPSTREAM_PORT | 未设置 |
# 上游是你的 API 网关(one-api / sub2api / new-api 等),监听 8080
moon run cmd/main -- -l 127.0.0.1:8787 -u 127.0.0.1:8080
# 测试:没有 system 消息的请求会被自动插入
curl http://127.0.0.1:8787/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{"model":"gpt-4o","messages":[{"role":"user","content":"你好"}]}'moon build --target native --release
# 产物: _build/native/release/build/cmd/main/main.exe (Linux 下就是 ELF 可执行文件)
./_build/native/release/build/cmd/main/main.exe -l 0.0.0.0:8787 -u 127.0.0.1:8080moon test # 34 个单元测试(默认 wasm 目标)
moon test --target native # Linux / 有 MSVC 的 Windows
# 端到端测试:先起一个 mock 上游(需要 Node.js)
node test/mock-upstream.mjs 18080
moon run cmd/main -- -l 127.0.0.1:18787 -u 127.0.0.1:18080
# 然后向 18787 发请求,mock 会把收到的请求体原样返回,便于核对改写结果prefix.mbt # 核心逻辑:system message 检查与注入(纯函数,可单测)
http.mbt # HTTP 请求行/头部解析、目标路径匹配、上游请求头重建
proxy.mbt # 异步连接处理:读请求 → 改写 → 转发 → 流式回传
config.mbt # 命令行/地址解析、环境变量配置(config_from_env)
dotenv.mbt # .env 文件加载(不覆盖已有环境变量)
cmd/main/ # 入口:load_env → 配置 → 监听端口,run_forever 并发处理连接
.env.example # 用户配置模板(复制为 .env 使用)
test/ # mock 上游(Node.js,端到端测试用)pub(all) struct Config {
listen_host : String
listen_port : Int
upstream_host : String
upstream_port : Int
}async fn load_env(path? : String) -> Unitlet required_prefix : StringInstall
Download zipLocal HTTP proxy that ensures Chat Completions system messages start with the required VSCode AI-assistant sentence