Skip to the content.

fak 快速开始(10 分钟跑起一个受管治的本地模型)

这是一个本地化入口页,而非完整文档翻译。完整文档为英文——本页把你从零带到一个受管治的 本地 AI,然后把你引向英文文档说明: 本页由机器生成、尚待母语者校对——如发现错误,欢迎提交 issue/PR。 相关中文页:中文入口页 ./README.md · 更多语言见 i18n hub。 权威英文来源:https://github.com/anthony-chaudhary/fak/blob/main/README.md

承诺:约 10 分钟,从零到一个受管治的本地 AI

跟着本页走,你会得到一个跑在自己机器上的 AI:离线可用、无需 API key、没有云账单,数据不出 本机——小模型用 CPU 就够,不需要 GPU。fak 不替换你的模型,它在每次工具调用执行前先审查、并在 长会话中复用重复工作。

最快路径:一条命令,把本地模型包进你现有的智能体

fak guard -- claude

这会用 fak 包住你现有的智能体(这里是 claude),每次工具调用都先经过内核里的默认拒绝 能力闸门(capability floor)。你不用重写智能体;如果走网关方式,只需把一个 base URL 指向 fak serve

在中国大陆安装(重要)

Go 默认的 proxy.golang.org 在境内常不可达,请先设置国内模块代理再安装:

export GOPROXY=https://goproxy.cn,direct
go install github.com/anthony-chaudhary/fak/cmd/fak@latest

模型权重:当 Hugging Face 无法访问时,可在 ModelScope(魔搭) 上寻找同名 GGUF/权重镜像。

60 秒验证(无需 key、无需模型、无需 GPU)

在克隆下来的仓库根目录运行:

go build -o fak ./cmd/fak
./fak preflight --policy examples/customer-support-readonly-policy.json --tool refund_payment --args "{}"   # -> DENY (POLICY_BLOCK)
./fak preflight --policy examples/customer-support-readonly-policy.json --tool search_kb     --args "{}"   # -> ALLOW
./fak agent --offline                                                                                       # injection blocked, task still completes

第一行拒绝、第二行放行,靠的是内核结构而非分类器:不在允许清单上的动作根本无法执行——无论 模型被怎样诱导。最后一行在离线状态下拦下注入,任务照样完成。

什么是 fak

fak 是一个静态 Go 二进制程序,位于你的 AI 智能体与它调用的工具之间——在每次工具调用 执行之前先审查它,并在长会话中复用重复的共享工作。结果:同一个智能体循环变得更安全、更省、 更快,且无需重写。

模型方面,fak 管治并缓存你的模型,而不替换它:Qwen2/Qwen3(通义千问)、GLM-MoE(智谱) 已在内核内置的 参考引擎中验证为逐位一致(bit-exact);DeepSeek、Yi、百川、Kimi 以及任意开源权重模型通过 OpenAI 兼容协议接入(Ollama / vLLM / SGLang / llama.cpp / LM Studio 或任意 OpenAI 兼容 API)。

到底有多快(诚实口径)

在一次实测的 50 轮 × 5 智能体会话中,相对一个经过调优的 warm-cache 栈,fak 的诚实收益约为 4.1× 更少的工作量——这是本页的头条数字。

那个抢眼的 约 60×(约 19 小时降到约 19 分钟)相对朴素的“每轮重发全部内容”循环成立; 不要把它当头条,若提及必须明确写成“仅相对 naive 模式”。这项复用收益仅限自托管,且适用于 读密集的智能体集群。

关于成本:这会直接体现在以人民币(RMB)计价的毛利上——长会话不再越来越贵。服务商的 prompt-cache 折扣只在 cached prefix 逐字节不变时才保留;fak 在剥离中间旧轮次的同时保证 prefix 逐位一致, 折扣因而不会失效。是否真正命中缓存则由服务商决定,fak 只如实转发、不代为断言。

每个数字都可追溯到其 commit 与产物,见 BENCHMARK-AUTHORITY

许可与成本

fak 采用 Apache-2.0、免费、自托管——无需信用卡、无需跨境发票、无需主体。git clonego install github.com/anthony-chaudhary/fak/cmd/fak@latest 就是全部路径。

下一步

License: Apache-2.0