Local HTTP proxy that ensures Chat Completions system messages start with the required VSCode AI-assistant sentence
你是一个AI助手,工作在 vscode 环境中
| 包 | 用途 |
|---|---|
| moonbitlang/async | 异步运行时 + TCP socket(代理数据面、SSE 透传) |
| moonbitlang/moonback | 监控 Web 服务器:路由(含 :id 参数)、JSON/文本响应、连接管理 |
| moonbit-community/rabbita | 监控前端 Elm 架构 UI 框架(js 目标) |
| spectacleCase/dotenv | .env 文本解析(引号/export/行内注释/BOM/容错) |
| moonbitstack/moonsqlite | 嵌入式 SQLite(自带 amalgamation,native 目标) |
| 请求体情况 | 处理 |
|---|---|
| 第一条 role:"system" 消息的内容以配置话术开头(允许前导空白,后面可接其他内容) | 原样放行 |
| 有 system 消息但开头不是配置话术 | 在该内容最前面加上 配置话术 + 句号 + 换行,其余内容保留 |
| 没有任何 system 消息 | 在 messages 数组最前面插入一条 {"role":"system","content":"<配置话术>。"} |
| system 的 content 是多模态数组([{type:"text",...},...]) | 检查/改写第一个 text 片段;没有 text 片段则插入一个 |
| 请求体不是合法 JSON | 原样转发(日志给出警告) |
句号的处理:配置话术若已以 。.!?;:… 或 .!?;: 结尾就不再追加;否则 以 ASCII 结尾的补 .,以中文结尾的补 。。配置话术为空/纯空白时回退到默认那句。
cd vscode-chat-proxy
# 1. 创建用户配置(参考 moonbit_claude_proxy 的 .env 模式)
cp .env.example .env # Windows PowerShell: Copy-Item .env.example .env
# 按需编辑 .env 里的 HOST / PORT / UPSTREAM_HOST / UPSTREAM_PORT / SYSTEM_PROMPT
# 2. 运行(默认 native 目标,自动读取 .env;需要 C 编译器 / MSVC)
moon run cmd/main# 正向代理(默认,无需上游):把应用 HTTP 代理指向 127.0.0.1:8787
moon run cmd/main -- --listen 127.0.0.1:8787
# 反向代理(固定上游):
moon run cmd/main -- --listen 127.0.0.1:8787 --upstream 127.0.0.1:8080curl -x http://127.0.0.1:8787 http://your-api:8080/v1/chat/completions ...
# 或环境变量 HTTP_PROXY=http://127.0.0.1:8787 / VSCode 的 http.proxy 设置原来: http://127.0.0.1:8080/v1
现在: http://127.0.0.1:8787/v1| 变量 | 说明 | 默认值 |
|---|---|---|
| HOST | 本地监听主机 | 127.0.0.1 |
| PORT | 本地监听端口 | 8787 |
| UPSTREAM_HOST | 固定上游主机(设置即切换反向模式;不设=正向) | 未设置 |
| UPSTREAM_PORT | 固定上游端口(明文 HTTP) | 未设置 |
| WEB_HOST | 监控页面主机 | 127.0.0.1 |
| WEB_PORT | 监控页面端口 | 8788 |
| SYSTEM_PROMPT | 注入到 system 消息第一句的话术(VSCODE_CHAT_PROXY_SYSTEM_PROMPT 是等价别名;空白值回退默认) | 你是一个AI助手,工作在 vscode 环境中 |
| INTERCEPT | 拦截开关初始值(on/off/1/0/true/false;VSCODE_CHAT_PROXY_INTERCEPT 等价别名);运行中可在监控页切换 | on |
| VSCODE_CHAT_PROXY_LISTEN | 组合写法 host:port,优先于 HOST/PORT | 未设置 |
| VSCODE_CHAT_PROXY_UPSTREAM | 组合写法 host:port(支持 [ipv6]:port),优先于 UPSTREAM_HOST/UPSTREAM_PORT | 未设置 |
# 上游是你的 API 网关(one-api / sub2api / new-api 等),监听 8080
moon run cmd/main -- -l 127.0.0.1:8787 -u 127.0.0.1:8080
# 用命令行临时换一句注入话术(等价于 .env 里写 SYSTEM_PROMPT=...)
moon run cmd/main -- -l 127.0.0.1:8787 -u 127.0.0.1:8080 -s "你是代码审阅助手"
# 测试:没有 system 消息的请求会被自动插入
curl http://127.0.0.1:8787/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{"model":"gpt-4o","messages":[{"role":"user","content":"你好"}]}'

| 端点 | 说明 |
|---|---|
| GET / | 监控页面 HTML 外壳 |
| GET /frontend.js | MoonBit 前端构建产物(内嵌) |
| GET /api/flows | 请求列表 + 统计(total / injected_total / stored / capacity) |
| GET /api/flows/<id> | 单条详情(请求头/体、注入后 body、响应头/体) |
| DELETE /api/flows | 清空列表并删除已落盘的数据文件 |
⚠️ 监控页面默认只绑定 127.0.0.1。请求体/响应体可能含 API Key 等敏感信息, 不要把 WEB_HOST 设成 0.0.0.0 暴露到公网。
moon build --target native --release
# 产物: _build/native/release/build/cmd/main/main.exe (Linux 下就是 ELF 可执行文件)
./_build/native/release/build/cmd/main/main.exe -l 0.0.0.0:8787 -u 127.0.0.1:8080# 下载引导器后执行(会弹 UAC):
.\vs_buildtools.exe --add Microsoft.VisualStudio.Workload.VCTools --includeRecommended --quiet --wait --norestart装好后 moon build --target native --release 直接产出 Windows exe,
已在 Windows 11 + MSVC v143 实测通过。moon 会自动探测 MSVC 环境,无需手动配置。
SQLite 已随程序静态编译,不需要额外安装。moon run tools/build_web.mbtx # 构建 frontend(js) 并重新生成内嵌的 web_assets.mbt
moon test frontend --target js # 前端 update 逻辑单测moon test # 51 个后端/契约单元测试(native)
moon test frontend --target js # 7 个前端 Elm update 逻辑测试
moon check --target native # 后端类型检查
# 端到端测试:先起一个 mock 上游(需要 Node.js)
node test/mock-upstream.mjs 18080
moon run cmd/main -- -l 127.0.0.1:18787 -u 127.0.0.1:18080
# 然后向 18787 发请求,mock 会把收到的请求体原样返回,便于核对改写结果| 路径 | 并发 | RPS | p50 | p99 |
|---|---|---|---|---|
| 直连(无代理) | 32 | ~8990 | 3.1ms | 10.4ms |
| 本代理(优化后) | 32 | ~4140 | 5.6ms | 23.5ms |
| 本代理(优化后) | 64 | ~3930 | 15.3ms | 36.5ms |
| mitmproxy 11.0.2 | 32 | ~560 | 55.2ms | 98.2ms |
node test/bench/upstream-fast.mjs 18080 &
main.exe --forward --listen 127.0.0.1:18787 --web 127.0.0.1:18788 &
mitmdump --mode regular --listen-port 18789 -q &
node test/bench/loadgen.mjs proxy 18787 18080 32 5 # 本代理
node test/bench/loadgen.mjs proxy 18789 18080 32 5 # mitmproxy
node test/bench/loadgen.mjs direct 0 18080 32 5 # 直连基线moon.pkg / facade.mbt # 根 facade:pub using 再导出各层公共 API(旧导入路径兼容)
shared/ # 前后端共享 API 契约类型(#derive(ToJson, FromJson))
proxy/ # 代理核心:system 前缀注入 + 连接处理/转发/捕获
monitor/ # 监控层:Flow/FlowStore(系统临时目录 SQLite 持久化)、chunked 解码、
# moonback Web 服务器与 JSON API、内嵌资源 web_assets.mbt
config/ # 配置层:Config、命令行/环境变量解析
internal/httpparse/ # 实现支持:代理数据面的 HTTP 解析/请求头重建
internal/dotenv/ # 实现支持:.env 异步读取 + 不覆盖已有环境变量
# (解析委托 spectacleCase/dotenv)
frontend/ # 监控前端:rabbita Elm 架构(js 目标)+ update 单测
web/index.html # 监控页面 HTML 外壳(CSS + 挂载点)
tools/build_web.mbtx # 构建前端并生成 monitor/web_assets.mbt(.mbtx 自动化)
cmd/main/ # 入口:load_env → 配置 → 任务组并发跑代理与监控
.env.example # 用户配置模板(复制为 .env 使用)
test/ # mock 上游(Node.js)+ 监控页面截图fn default_store_dir(port~ : Int) -> Stringlet default_system_prompt : Stringasync fn load_env(path? : String) -> Unitlet required_prefix : StringInstall
Download zipLocal HTTP proxy that ensures Chat Completions system messages start with the required VSCode AI-assistant sentence