OneAIFW 本地轻量级 LLM 隐私防火墙技术分析

博主： admin
发布时间：2026 年 01 月 21 日
0 次浏览
暂无评论
5370字数
分类：技术分析 rust AI LLM wasm 隐私安全 zig 数据保护

OneAIFW 本地轻量级 LLM 隐私防火墙技术分析

一、项目概述

1. 项目简介

OneAIFW 是一个本地化、轻量级的 AI 防火墙项目，通过在发送到 LLM 之前对敏感数据进行匿名化处理，并在响应返回后恢复原始数据，从而保护用户隐私。

A. 核心功能

OneAIFW 专注于保护三类敏感信息：隐私数据、密钥信息、加密资产

B. 技术特点

本地运行，数据不离境
跨平台支持
轻量级设计
零痕迹架构

2. 项目背景

A. 问题来源

在使用大语言模型时，用户经常需要在提示词中包含敏感信息，如电子邮件、地址、银行账号等。这些数据会被发送到第三方 LLM 服务商，存在隐私泄露风险。

B. 解决方案

OneAIFW 通过拦截请求，识别并掩码敏感信息，将其替换为占位符发送给 LLM，待 LLM 返回结果后再将原始信息恢复，从而实现隐私保护。

二、系统架构

1. 整体架构

OneAIFW 采用分层跨平台架构，核心引擎使用 Zig 和 Rust 实现，支持编译为原生库和 WASM 模块。

graph TB
    subgraph 应用层
        WebApp[Web 应用 apps/webapp]
        Ext[浏览器扩展 browser_extension]
        CLI[CLI 工具 cli/python]
    end

    subgraph 语言绑定层
        AIFWJS[aifw-js 库]
        AIFWPY[aifw-py 库]
    end

    subgraph 核心引擎层
        Core[AIFW Core Zig + Rust]
    end

    subgraph 识别层
        NER[NER 模型]
        Regex[正则引擎]
    end

    subgraph 后端服务
        PyOrigin[py-origin FastAPI]
    end

    WebApp --> AIFWJS
    Ext --> AIFWJS
    CLI --> AIFWPY
    AIFWJS --> Core
    AIFWPY --> Core
    Core --> NER
    Core --> Regex
    PyOrigin --> NER

mermaid

2. 核心组件

A. 核心引擎 (AIFW Core)

实现语言：Zig + Rust
编译目标：原生库 + WASM
职责：掩码/恢复管道、正则/NER 跨度融合

B. 语言绑定

aifw-js：JavaScript/TypeScript 绑定
aifw-py：Python 绑定

C. 应用层

Web 演示应用 (Vite)
浏览器扩展 (Chrome/Edge)
Python HTTP 服务

三、核心工作流程

1. 数据掩码流程

sequenceDiagram
    participant User as 用户
    participant AIFW as OneAIFW
    participant NER as NER 模型
    participant Regex as 正则引擎
    participant LLM as 大语言模型

    User->>AIFW: 输入包含敏感信息的文本
    AIFW->>NER: 识别命名实体
    AIFW->>Regex: 正则模式匹配
    AIFW->>AIFW: 合并跨度去重
    AIFW->>AIFW: 生成占位符
    AIFW->>LLM: 发送掩码后文本
    LLM-->>AIFW: 返回处理结果
    AIFW->>AIFW: 恢复原始信息
    AIFW-->>User: 返回最终结果

mermaid

2. 掩码机制

OneAIFW 使用占位符替换敏感信息，格式为：__PII_{ENTITY_TYPE}_{SERIAL_ID}__

示例：

原文：Contact me at john@example.com
掩码后：Contact me at PII_EMAIL_ADDRESS_00000001
恢复后：Contact me at john@example.com

四、技术实现

1. 核心引擎设计

A. 管道架构

AIFW 核心库采用双管道设计：

mask 管道：负责敏感信息掩码
restore 管道：负责原始信息恢复

B. PII 识别

PII 检测通过复合识别器实现：

RegexRecognizer：Rust 正则引擎 (regex-automata)
NerRecognizer：外部 NER 模型识别
SpanMerger：跨度合并、过滤、去重

C. 内存优化

占位符生成使用栈缓冲区 (无堆分配)
元数据仅存储 (EntityType, serial_id)
最小化内存占用，避免指针问题

2. 跨平台编译

A. 编译目标

原生库：用于 Python 和其他宿主语言
WASM (wasm32-freestanding)：用于浏览器和 JS 环境

B. Rust 集成

使用 regex-automata 实现正则引擎
通过 C ABI 暴露静态库
同时构建原生和 WASM 目标

3. 语言绑定

A. aifw-js (@oneaifw/aifw-js)

使用 Transformers.js 运行 NER
将跨度转换为字节偏移
调用 WASM 核心进行掩码/恢复
提供批量处理、语言感知掩码等高级 API

B. aifw-py

加载原生核心库
暴露简单的 Python API
支持 mask_text、restore_text 及批量变体

五、受保护的实体类型

1. 隐私信息

物理地址
电子邮件地址
姓名
电话号码
银行账号
支付信息

2. 密钥信息

验证码
密码

3. 加密资产

种子词
私钥
地址

六、部署方式

1. Docker 部署

# 构建镜像
cd cli/python
docker build -t oneaifw:latest -f Dockerfile .

# 运行容器
docker run --rm -p 8844:8844 \
  -e AIFW_API_KEY_FILE=/data/aifw/your-key.json \
  -v $HOME/.aifw:/data/aifw \
  oneaifw:latest

2. 本地服务

A. Python 服务 (py-origin)

cd py-origin
python -m venv .venv
source .venv/bin/activate
pip install -r services/requirements.txt -r cli/requirements.txt
python -m aifw launch

B. Web 演示

# 构建核心
zig build

# 安装 JS 依赖
pnpm -w install

# 构建 aifw-js
pnpm -w --filter @oneaifw/aifw-js build

# 运行 Web 应用
cd apps/webapp
pnpm dev

3. 浏览器扩展

pnpm -w --filter @oneaifw/aifw-js build
mkdir -p browser_extension/vendor/aifw-js
rsync -a --exclude 'models' libs/aifw-js/dist/* browser_extension/vendor/aifw-js

七、API 接口

1. HTTP API (py-origin)

/api/call：完整调用流程
/api/mask_text：文本掩码
/api/restore_text：文本恢复
/api/mask_text_batch：批量掩码
/api/restore_text_batch：批量恢复

2. 认证方式

使用标准 Authorization 头
通过环境变量 AIFW_HTTP_API_KEY 配置
支持命令行选项配置

3. 参数优先级

配置参数解析顺序：

命令行参数
环境变量
配置文件 (aifw.yaml)

八、技术栈

1. 编程语言分布

Python：43.9%
Zig：24.0%
JavaScript：22.2%
HTML：6.1%
Dockerfile：1.6%
CSS：1.3%
Rust：0.9%

2. 核心依赖

Zig 0.15.2：核心编译系统
Rust toolchain：正则引擎
Node.js 18+ 和 pnpm 9+：JS 生态
Python 3.10+：后端服务
Transformers.js：浏览器端 NER

3. 模型支持

默认 NER 模型：funstory-ai/neurobert-mini
支持自定义模型配置
模型目录环境变量：AIFW_MODELS_DIR

九、项目特点分析

1. 优势

本地化处理，数据不离开用户环境
轻量级设计，资源占用低
跨平台支持，部署灵活
多语言绑定，易于集成
开源 MIT 许可证

2. 技术亮点

Zig + Rust 混合编程，兼顾性能和安全性
WASM 支持，实现真正的跨平台
管道架构设计，职责分离清晰
内存优化设计，最小化堆分配

3. 应用场景

企业内部 LLM 应用隐私保护
个人用户敏感信息防护
加密资产交易保护
医疗、金融等合规场景

十、开发与构建

1. 前置要求

# 验证版本
zig version        # 期望 0.15.2
rustc --version
cargo --version
node -v
pnpm -v
python3 --version

2. 快速开始

# 克隆仓库
git clone https://github.com/funstory-ai/aifw.git
cd aifw

# 构建核心库
zig build

# 安装 JS 依赖
pnpm -w install

# 构建 aifw-js
pnpm -w --filter @oneaifw/aifw-js build

# 运行 Web 演示
cd apps/webapp
pnpm dev

3. 测试

# Zig 单元测试
zig build -Doptimize=Debug test

# 集成测试
zig build inttest
zig-out/bin/aifw_core_test

十一、相关资源

1. 项目信息

仓库地址：https://github.com/funstory-ai/aifw
演示网站：https://oneaifw.com/
许可证：MIT
Stars：261
Forks：22

2. 版本信息

最新版本：v0.5.1 (2024年11月28日)
提交数：157 commits
贡献者：2 人

参考资料

最后修改：2026 年 01 月 21 日

如果觉得我的文章对你有用，请随意赞赏

发表评论取消回复
使用cookie技术保留您的个人信息以便您下次快速评论，继续评论表示您已同意该条款

评论 *

私密评论

名称 *

🎲

邮箱 *

地址

OneAIFW 本地轻量级 LLM 隐私防火墙技术分析

admin • 2026 年 01 月 21 日

<h1>OneAIFW 本地轻量级 LLM 隐私防火墙技术分析</h1><h1>一、项目概述</h1><h2>1. 项目简介</h2><p>OneAIFW 是一个本地化、轻量级的 AI 防火墙项目，通过在发送到 LLM 之前对敏感数据进行匿名化处理，并在响应返回后恢复原始数据，从而保护用户隐私。</p><h3>A. 核心功能</h3><p>OneAIFW 专注于保护三类敏感信息：隐私数据、密钥信息、加密资产</p><h3>B. 技术特点</h3><ul><li>本地运行，数据不离境</li><li>跨平台支持</li><li>轻量级设计</li><li>零痕迹架构</li></ul><h2>2. 项目背景</h2><h3>A. 问题来源</h3><p>在使用大语言模型时，用户经常需要在提示词中包含敏感信息，如电子邮件、地址、银行账号等。这些数据会被发送到第三方 LLM 服务商，存在隐私泄露风险。</p><h3>B. 解决方案</h3><p>OneAIFW 通过拦截请求，识别并掩码敏感信息，将其替换为占位符发送给 LLM，待 LLM 返回结果后再将原始信息恢复，从而实现隐私保护。</p><h1>二、系统架构</h1><h2>1. 整体架构</h2><p>OneAIFW 采用分层跨平台架构，核心引擎使用 Zig 和 Rust 实现，支持编译为原生库和 WASM 模块。</p><pre><code class="lang-mermaid">graph TB
    subgraph 应用层
        WebApp[Web 应用 apps/webapp]
        Ext[浏览器扩展 browser_extension]
        CLI[CLI 工具 cli/python]
    end

subgraph 语言绑定层
        AIFWJS[aifw-js 库]
        AIFWPY[aifw-py 库]
    end

subgraph 核心引擎层
        Core[AIFW Core Zig + Rust]
    end

subgraph 识别层
        NER[NER 模型]
        Regex[正则引擎]
    end

subgraph 后端服务
        PyOrigin[py-origin FastAPI]
    end

WebApp --&gt; AIFWJS
    Ext --&gt; AIFWJS
    CLI --&gt; AIFWPY
    AIFWJS --&gt; Core
    AIFWPY --&gt; Core
    Core --&gt; NER
    Core --&gt; Regex
    PyOrigin --&gt; NER</code></pre><p><img src="https://static.op123.ren/static/4b/4b3be4b0f6dd011b.svg" alt="mermaid" title="mermaid" style=""></p><h2>2. 核心组件</h2><h3>A. 核心引擎 (AIFW Core)</h3><ul><li>实现语言：Zig + Rust</li><li>编译目标：原生库 + WASM</li><li>职责：掩码/恢复管道、正则/NER 跨度融合</li></ul><h3>B. 语言绑定</h3><ul><li>aifw-js：JavaScript/TypeScript 绑定</li><li>aifw-py：Python 绑定</li></ul><h3>C. 应用层</h3><ul><li>Web 演示应用 (Vite)</li><li>浏览器扩展 (Chrome/Edge)</li><li>Python HTTP 服务</li></ul><h1>三、核心工作流程</h1><h2>1. 数据掩码流程</h2><pre><code class="lang-mermaid">sequenceDiagram
    participant User as 用户
    participant AIFW as OneAIFW
    participant NER as NER 模型
    participant Regex as 正则引擎
    participant LLM as 大语言模型

User-&gt;&gt;AIFW: 输入包含敏感信息的文本
    AIFW-&gt;&gt;NER: 识别命名实体
    AIFW-&gt;&gt;Regex: 正则模式匹配
    AIFW-&gt;&gt;AIFW: 合并跨度去重
    AIFW-&gt;&gt;AIFW: 生成占位符
    AIFW-&gt;&gt;LLM: 发送掩码后文本
    LLM--&gt;&gt;AIFW: 返回处理结果
    AIFW-&gt;&gt;AIFW: 恢复原始信息
    AIFW--&gt;&gt;User: 返回最终结果</code></pre><p><img src="https://static.op123.ren/static/57/57dca5f2f0f8d118.svg" alt="mermaid" title="mermaid" style=""></p><h2>2. 掩码机制</h2><p>OneAIFW 使用占位符替换敏感信息，格式为：<code>__PII_{ENTITY_TYPE}_{SERIAL_ID}__</code></p><p>示例：</p><ul><li>原文：Contact me at <a href="mailto:john@example.com">john@example.com</a></li><li>掩码后：Contact me at <strong>PII_EMAIL_ADDRESS_00000001</strong></li><li>恢复后：Contact me at <a href="mailto:john@example.com">john@example.com</a></li></ul><h1>四、技术实现</h1><h2>1. 核心引擎设计</h2><h3>A. 管道架构</h3><p>AIFW 核心库采用双管道设计：</p><ul><li>mask 管道：负责敏感信息掩码</li><li>restore 管道：负责原始信息恢复</li></ul><h3>B. PII 识别</h3><p>PII 检测通过复合识别器实现：</p><ul><li>RegexRecognizer：Rust 正则引擎 (regex-automata)</li><li>NerRecognizer：外部 NER 模型识别</li><li>SpanMerger：跨度合并、过滤、去重</li></ul><h3>C. 内存优化</h3><ul><li>占位符生成使用栈缓冲区 (无堆分配)</li><li>元数据仅存储 (EntityType, serial_id)</li><li>最小化内存占用，避免指针问题</li></ul><h2>2. 跨平台编译</h2><h3>A. 编译目标</h3><ul><li>原生库：用于 Python 和其他宿主语言</li><li>WASM (wasm32-freestanding)：用于浏览器和 JS 环境</li></ul><h3>B. Rust 集成</h3><ul><li>使用 regex-automata 实现正则引擎</li><li>通过 C ABI 暴露静态库</li><li>同时构建原生和 WASM 目标</li></ul><h2>3. 语言绑定</h2><h3>A. aifw-js (@oneaifw/aifw-js)</h3><ul><li>使用 Transformers.js 运行 NER</li><li>将跨度转换为字节偏移</li><li>调用 WASM 核心进行掩码/恢复</li><li>提供批量处理、语言感知掩码等高级 API</li></ul><h3>B. aifw-py</h3><ul><li>加载原生核心库</li><li>暴露简单的 Python API</li><li>支持 mask_text、restore_text 及批量变体</li></ul><h1>五、受保护的实体类型</h1><h2>1. 隐私信息</h2><ul><li>物理地址</li><li>电子邮件地址</li><li>姓名</li><li>电话号码</li><li>银行账号</li><li>支付信息</li></ul><h2>2. 密钥信息</h2><ul><li>验证码</li><li>密码</li></ul><h2>3. 加密资产</h2><ul><li>种子词</li><li>私钥</li><li>地址</li></ul><h1>六、部署方式</h1><h2>1. Docker 部署</h2><pre><code class="lang-bash"># 构建镜像
cd cli/python
docker build -t oneaifw:latest -f Dockerfile .

# 运行容器
docker run --rm -p 8844:8844 \
  -e AIFW_API_KEY_FILE=/data/aifw/your-key.json \
  -v $HOME/.aifw:/data/aifw \
  oneaifw:latest</code></pre><h2>2. 本地服务</h2><h3>A. Python 服务 (py-origin)</h3><pre><code class="lang-bash">cd py-origin
python -m venv .venv
source .venv/bin/activate
pip install -r services/requirements.txt -r cli/requirements.txt
python -m aifw launch</code></pre><h3>B. Web 演示</h3><pre><code class="lang-bash"># 构建核心
zig build

# 安装 JS 依赖
pnpm -w install

# 构建 aifw-js
pnpm -w --filter @oneaifw/aifw-js build

# 运行 Web 应用
cd apps/webapp
pnpm dev</code></pre><h2>3. 浏览器扩展</h2><pre><code class="lang-bash">pnpm -w --filter @oneaifw/aifw-js build
mkdir -p browser_extension/vendor/aifw-js
rsync -a --exclude 'models' libs/aifw-js/dist/* browser_extension/vendor/aifw-js</code></pre><h1>七、API 接口</h1><h2>1. HTTP API (py-origin)</h2><ul><li>/api/call：完整调用流程</li><li>/api/mask_text：文本掩码</li><li>/api/restore_text：文本恢复</li><li>/api/mask_text_batch：批量掩码</li><li>/api/restore_text_batch：批量恢复</li></ul><h2>2. 认证方式</h2><ul><li>使用标准 Authorization 头</li><li>通过环境变量 AIFW_HTTP_API_KEY 配置</li><li>支持命令行选项配置</li></ul><h2>3. 参数优先级</h2><p>配置参数解析顺序：</p><ol><li>命令行参数</li><li>环境变量</li><li>配置文件 (aifw.yaml)</li></ol><h1>八、技术栈</h1><h2>1. 编程语言分布</h2><ul><li>Python：43.9%</li><li>Zig：24.0%</li><li>JavaScript：22.2%</li><li>HTML：6.1%</li><li>Dockerfile：1.6%</li><li>CSS：1.3%</li><li>Rust：0.9%</li></ul><h2>2. 核心依赖</h2><ul><li>Zig 0.15.2：核心编译系统</li><li>Rust toolchain：正则引擎</li><li>Node.js 18+ 和 pnpm 9+：JS 生态</li><li>Python 3.10+：后端服务</li><li>Transformers.js：浏览器端 NER</li></ul><h2>3. 模型支持</h2><ul><li>默认 NER 模型：funstory-ai/neurobert-mini</li><li>支持自定义模型配置</li><li>模型目录环境变量：AIFW_MODELS_DIR</li></ul><h1>九、项目特点分析</h1><h2>1. 优势</h2><ul><li>本地化处理，数据不离开用户环境</li><li>轻量级设计，资源占用低</li><li>跨平台支持，部署灵活</li><li>多语言绑定，易于集成</li><li>开源 MIT 许可证</li></ul><h2>2. 技术亮点</h2><ul><li>Zig + Rust 混合编程，兼顾性能和安全性</li><li>WASM 支持，实现真正的跨平台</li><li>管道架构设计，职责分离清晰</li><li>内存优化设计，最小化堆分配</li></ul><h2>3. 应用场景</h2><ul><li>企业内部 LLM 应用隐私保护</li><li>个人用户敏感信息防护</li><li>加密资产交易保护</li><li>医疗、金融等合规场景</li></ul><h1>十、开发与构建</h1><h2>1. 前置要求</h2><pre><code class="lang-bash"># 验证版本
zig version        # 期望 0.15.2
rustc --version
cargo --version
node -v
pnpm -v
python3 --version</code></pre><h2>2. 快速开始</h2><pre><code class="lang-bash"># 克隆仓库
git clone https://github.com/funstory-ai/aifw.git
cd aifw

# 构建核心库
zig build

# 安装 JS 依赖
pnpm -w install

# 构建 aifw-js
pnpm -w --filter @oneaifw/aifw-js build

# 运行 Web 演示
cd apps/webapp
pnpm dev</code></pre><h2>3. 测试</h2><pre><code class="lang-bash"># Zig 单元测试
zig build -Doptimize=Debug test

# 集成测试
zig build inttest
zig-out/bin/aifw_core_test</code></pre><h1>十一、相关资源</h1><h2>1. 项目信息</h2><ul><li>仓库地址：<span class="external-link"><a class="no-external-link" href="https://github.com/funstory-ai/aifw" target="_blank"><i data-feather="external-link"></i>https://github.com/funstory-ai/aifw</a></span></li><li>演示网站：<span class="external-link"><a class="no-external-link" href="https://oneaifw.com/" target="_blank"><i data-feather="external-link"></i>https://oneaifw.com/</a></span></li><li>许可证：MIT</li><li>Stars：261</li><li>Forks：22</li></ul><h2>2. 版本信息</h2><ul><li>最新版本：v0.5.1 (2024年11月28日)</li><li>提交数：157 commits</li><li>贡献者：2 人</li></ul><hr><h2>参考资料</h2><ol><li><span class="external-link"><a class="no-external-link" href="https://github.com/funstory-ai/aifw" target="_blank"><i data-feather="external-link"></i>OneAIFW GitHub 仓库</a></span></li><li><span class="external-link"><a class="no-external-link" href="https://oneaifw.com/" target="_blank"><i data-feather="external-link"></i>OneAIFW 官方网站</a></span></li></ol>

OneAIFW 本地轻量级 LLM 隐私防火墙技术分析

一、项目概述

1. 项目简介

A. 核心功能

B. 技术特点

2. 项目背景

A. 问题来源

B. 解决方案

二、系统架构

1. 整体架构

2. 核心组件

A. 核心引擎 (AIFW Core)

B. 语言绑定

C. 应用层

三、核心工作流程

1. 数据掩码流程

2. 掩码机制

四、技术实现

1. 核心引擎设计

A. 管道架构

B. PII 识别

C. 内存优化

2. 跨平台编译

A. 编译目标

B. Rust 集成

3. 语言绑定

A. aifw-js (@oneaifw/aifw-js)

B. aifw-py

五、受保护的实体类型

1. 隐私信息

2. 密钥信息

3. 加密资产

六、部署方式

1. Docker 部署

2. 本地服务

A. Python 服务 (py-origin)

B. Web 演示

3. 浏览器扩展

七、API 接口

1. HTTP API (py-origin)

2. 认证方式

3. 参数优先级

八、技术栈

1. 编程语言分布

2. 核心依赖

3. 模型支持

九、项目特点分析

1. 优势

2. 技术亮点

3. 应用场景

十、开发与构建

1. 前置要求

2. 快速开始

3. 测试

十一、相关资源

1. 项目信息

2. 版本信息

参考资料

发表评论 取消回复 使用cookie技术保留您的个人信息以便您下次快速评论，继续评论表示您已同意该条款

OneAIFW 本地轻量级 LLM 隐私防火墙技术分析

发表评论取消回复
使用cookie技术保留您的个人信息以便您下次快速评论，继续评论表示您已同意该条款