nFOX Lab推出面向企业自有大语言模型的管理平台,并计划开源其安全沙箱Blockhouse。该沙箱基于零信任理念,在Linux内核层面默认剥夺AI工作负载的权限,管理员需通过策略显式恢复访问,从而限制模型被攻破或行为异常时可能造成的损害。通信经由受监控通道Porthole审查,运行时凭证与审计控制独立于模型进程之外,同时通过SHA-256哈希校验模型文件完整性。该方案支持vLLM、SGLang和llama.cpp等推理引擎,配套平台可在云端虚拟机、租用GPU主机及本地英伟达GPU服务器上评估、部署和监控模型。其意义在于回应企业既想使用AI能力、又不愿将敏感数据交给外部供应商的两难,让企业在自有基础设施上安全采用开放模型。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅