应用场景
物理隔离断网可用
语言模型全离线容器化运行，支持出厂拔除无线网卡与双千兆网口物理隔离
软硬协同毫秒响应
基于 TensorRT-LLM 与 RKLLM 深度量化，Orin NX 16GB 与 RM1828 实现 7B 模型 22–60 tok/s 生成
语音控制全栈闭环
单机并发运行 Whisper 语音识别与大语言模型，现场对话秒级转化为 Modbus/CAN 控制帧
应用场景与可部署方案
应用场景
应用场景
应用场景
可部署方案可打断对话式语音 AI
一个能对话、能随时被打断的语音终端。听和说都在设备本地完成；对话模型接你自己的云端接口，或整个放在设备上。可以跑在 reComputer RK、reComputer J30 / J40（Orin）或reComputer R2000 系列上，对话语言在部署时选定。
可部署方案
可部署方案智能工牌私有化语音转写与说话人分离
将佩戴式录音工牌的音频同步至本地 reComputer（Jetson Orin NX 或 RK3576）边缘主机，在现场完成文字转写与说话人分离，录音与文本全程不上云。
可部署方案
可部署方案边缘算力平台与模型选型指南
回答模型规模、并发与首字延迟、物理安全三个问题，配置器给出具体型号；架构、主机与推理加速、内网隔离的对照见下方卡片。
不确定怎么选？ 查看完整的选型与安全部署指南 →
模型规模
现场要大模型做什么？决定主机平台。
配置您的方案
选模型规模、并发要求与安全等级，系统自动推荐设备
入门套餐 (RK3576 原生)
1.5B 以下指令解析，板载 NPU 运行，整机功耗数瓦
硬件/物料名称 数量 型号/SKU 说明 reComputer RK3576-30 (RK3576, 8GB) 1 100052518 - reSpeaker XVF3800 麦克风阵列 1 101991441 - NVMe M.2 2280 SSD 1TB 1 112990267 - RTL8822CE Wi-Fi 5 / BT 5.0 无线网卡模块 1 114993556 - 企业级套餐 (Jetson Orin NX 16GB)
7B/8B 综合对话与知识检索，同机运行语音转写与向量检索
硬件/物料名称 数量 型号/SKU 说明 reComputer Super J4012 (Orin NX 16GB Super) 1 114110314 - reSpeaker XVF3800 麦克风阵列 1 101991441 - NVMe M.2 2280 SSD 1TB 1 112990267 - 电源适配器 (19V 4.74A / 90W) 1 313080684 - RTL8822CE Wi-Fi 5 / BT 5.0 无线网卡模块 1 114993556 - 加速卡套餐 (RK3588 + RM1828)
7B 模型 50–61 tok/s，多路并发与长上下文 RAG；加速卡需向销售询价
硬件/物料名称 数量 型号/SKU 说明 reComputer RK3588-40 (RK3588, 16GB) 1 100086238 - RM1828 PCIe 加速卡 (RK1828，向销售询价) 1 - - reSpeaker XVF3800 麦克风阵列 1 101991441 - NVMe M.2 2280 SSD 1TB 1 112990267 - RTL8822CE Wi-Fi 5 / BT 5.0 无线网卡模块 1 114993556 - 旗舰套餐 (Jetson AGX Orin 64GB)
14B–27B 复杂多步推理与多智能体，7B/8B 八路并发
硬件/物料名称 数量 型号/SKU 说明 reComputer J5012 (AGX Orin 64GB) 1 100032662 - reSpeaker XVF3800 麦克风阵列 1 101991441 - NVMe M.2 2280 SSD 1TB 1 112990267 - RTL8822CE Wi-Fi 5 / BT 5.0 无线网卡模块 1 114993556 -
端侧大模型架构
拾音推理到总线的离线闭环
图中四层：麦克风阵列拾音；reComputer 主机按 Jetson 或 RK 二选一；主机内的 TensorRT-LLM、RKLLM 与可选的 RM1828 加速卡完成量化推理；结果经 Modbus、CAN、RS485 驱动现场设备，并经分立网口接入业务内网。
核心优势
- 全链路离线：拾音、转写、推理、控制均在本机完成
- 双平台二选一：Jetson 走 TensorRT-LLM，RK 走 RKLLM
- 总线直驱：推理结果直接输出 Modbus 与 CAN 控制帧
| 产品图 | 产品 | 核心定位 | 推荐模型与量化 | 解码速率 (tok/s) | 并发能力 | 成本 |
|---|---|---|---|---|---|---|
 | J5012 | AGX Orin 64G | Qwen2.5-14B、Qwen3.5-27B，INT4-AWQ | 7B 45.5；14B 24.5；27B 14.5 | 7B/8B 八路合计约 175–185 tok/s；14B 四路；27B 两路 | ~$2800–4800 |
 | J4012 | Orin NX 16G | Qwen2.5-7B、Llama-3.1-8B，INT4-AWQ；14B 可加载 | 7B 22.5；8B 23.5；14B 11.0 | 7B/8B 两路，14B 一路；剩余显存可同机运行 Whisper 与向量检索 | ~$900–1800 |
 | J3011 | Orin Nano 8G | Qwen2.5-1.5B、Qwen2.5-3B，INT4-AWQ；7B 仅限单任务 | 1.5B 38.5；3B 22.5；7B 12.5 | 1.5B 两路，3B 一至两路 | ~$600–1000 |
 | RK3588-40 | RK3588 + RM1828 加速卡 | 加卡：Qwen2.5-7B、Qwen3-4B，W4A16；原生：Qwen2.5-1.5B，W8A8 | 加卡 7B Decode 50–61，Prefill 800 以上；原生 1.5B 16.5，7B 约 4 | 每卡常驻一个模型；语音识别与合成在主机侧运行 | 主机 ~$280–360；RM1828 加卡另询 |
 | RK3576-30 | RK3576 原生 | Qwen2.5-0.5B、Qwen2.5-1.5B，W4A16 | 0.5B 35.2；1.5B 19.6；4B 8.3 | 单路指令解析；4B 对话模型不建议与语音同机运行 | ~$160–210 |
算力与模型选型
统一内存与专用加速实测选型
依托 Jetson Orin 统一内存架构与 Rockchip NPU/RM1828 存算一体加速卡，按模型参数规模与并发吞吐科学选型。
核心优势
- 全系覆盖：从 0.5B 至 27B 参数按需科学选型
- J4012 主力：16GB 统一内存同机跑 7B 模型与语音转写
- 加卡跑 7B：RM1828 加速卡使 7B 解码达 50–61 tok/s
| 产品图 | 配件名称 | 核心规格与用途 | 适用机型 | 安全部署与选型规则 |
|---|---|---|---|---|
 | Wi-Fi 5 / BT 5.0 无线网卡套件 | M.2 Key-E 接口，双频 2.4G/5G Wi-Fi 与 BT 5.0，配双胶棒天线 | 全系通用 | 普通室内与调试选配；【涉密无网无线档位】出厂不选配或现场拔除模块，彻底阻断空中射频（Air-Gap） |
 | 1TB NVMe M.2 2280 固态硬盘 | PCIe Gen3x4，高速读写 > 2000 MB/s，持久化存储大模型权重与向量库 | 全系通用 | 端侧大模型必备；承载 7B/14B 量化模型权重（4–8GB）与向量库（Milvus/Chroma）检索缓存，避免 TF 卡瓶颈 |
 | 19V 4.74A (90W) 工业电源适配器 | 5.5×2.5mm DC 接口，足额 90W 功率输出，宽压抗浪涌与瞬态抗跌落 | Jetson Orin / RK3588 | 满载算力必备；保障大模型 Prefill 阶段与多路并发时 20W/25W MAXN 功耗峰值供电稳定，避免欠压降频重启 |
 | reComputer 金属机柜安装挂耳 | 工业冷轧钢冲压支架，支持 35mm 标准 DIN 导轨卡扣与背板壁挂 | reComputer 全系 | 工业控制柜、现场弱电箱标准固定配件；防震固态部署，增强机壳散热对流 |
| — | 双物理隔离以太网口与工业总线 | 双物理千兆以太网口（Dual GbE）+ 板载隔离式 RS485 / CAN / DO 端子 | Industrial 系列板载 | 内网物理隔离；LAN1 专连生产总线与 PLC，LAN2 专连运维内网，主机内核关闭路由转发，杜绝跨网渗透风险 |
配件与安全部署
核心外设与涉密物理隔离选型
涵盖端侧大模型部署的核心配件：存储盘、稳压电源、导轨挂耳及通信模组。针对涉密与强合规场景，支持出厂不选配或现场拔除 M.2 Key-E 无线网卡，彻底断开空中射频信号（Air-Gap），结合双网口物理隔离与板载工业总线驱动现场设备。
核心优势
- 可选拔网卡：涉密现场不选配或物理拔除无线网卡
- 高速盘必配：NVMe存储承载大模型权重与向量库
- 双网口隔离：业务内网与管理网分口且内核禁转发
常见问题解答
大模型自回归生成（Decode 阶段）每次生成一个新 Token，都需要将数十亿参数的权重全部从内存中读取一次，是典型的访存密集型计算。生成速度（Tokens/s）主要受限于内存总线带宽（GB/s）。这就是为什么具有更高总线带宽的 Orin NX（102.4 GB/s）或搭载 3D 封装 1 TB/s 内存的 RM1828 加速卡，能实现远超普通板载 LPDDR 硬件的推理速度。
完全可以。Qwen2.5-7B 或 Llama-3.1-8B 在 INT4-AWQ 量化下仅占用 5.2GB 至 5.8GB 显存，reComputer J4012 具备 16GB 统一内存，剩余约 10GB 内存足以轻松并发运行 Whisper-base 离线语音识别引擎（仅占约 1GB）与端侧轻量向量数据库，实现全流程不联网的全双工语音交互。
27B–32B 模型在 INT4 量化下权重本体即需 17GB 以上显存，加上 KV Cache 动态缓存、系统操作系统及桌面开销，总需求已超过 20GB–24GB，超出 8GB/16GB 边缘盒子的物理显存上限，会直接导致 OOM 崩溃或频繁内存换页卡死。对于此类超大模型，建议通过私有局域网专线接入本地私有 x86 服务器。
reComputer 工业边缘计算系列的 Wi-Fi 与蓝牙射频模块均通过标准的 M.2 Key E 扩展接口连接，主板上无贴片板载射频芯片。在涉密或强合规现场，只需拧开外壳螺丝拔下 M.2 无线网卡，即可从物理层面完全切断所有射频发射源，形成真正的物理隔离（Air-Gap）。
可以。方案中用到的 Seeed 边缘计算设备支持定制 Logo、外观、包装和预装固件，也能在现有型号基础上增减接口、调整算力卡（如 RM1828）或扩展总线。可以直接，具体范围和流程见 ODM/OEM 定制服务。
没有找到你要的答案？
联系我们
获取可部署方案与产品选型支持。