1Panel AI 网关功能正式面向社区用户开放。部署 1Panel 社区版后,10 人及以内规模的团队可以免费使用完整的企业级 AI 网关治理能力。
随着大模型技术快速普及,企业应用 AI 已逐渐从技术尝试进入规模化使用阶段。不过,对于创业团队和中小型研发团队来说,多家模型 API 分散、密钥管理混乱、Token 成本失控以及单点故障等问题,仍然会增加 AI 应用的管理难度。
1Panel官网:点击直达
什么是1Panel AI网关
1Panel AI 网关是一套面向企业和团队的 AI 统一接入与治理平台,提供从模型统一接入、智能路由到安全审计的完整管理能力。
无论团队需要同时调用多家公有云大模型,还是需要接入本地 GPU 集群,均可通过 1Panel AI 网关统一管理模型、账号和调用权限,从而降低多模型接入的复杂度,并提高业务稳定性与数据安全性。
1Panel AI网关的核心能力
更便捷:聚合零散接口
1Panel AI 网关支持统一接入与模型代理,可通过统一的 Base URL 和 API Key 调用不同模型。
平台兼容 OpenAI、Anthropic 协议,同时支持接入公有云模型与本地部署模型,适合需要混合使用云端模型和本地 GPU 集群的团队。
在模型切换方面,1Panel AI 网关支持模型动态映射和账号池自动故障转移。上层应用不需要关注底层模型供应商和账号之间的差异,能够通过统一接口完成调用。
更智能:自动分流请求
1Panel AI 网关支持语义感知智能路由。在 auto 模式下,系统可以结合 Embedding 向量化与语义相似度计算,对请求内容和复杂程度进行判断。
根据判断结果,网关可以将不同请求分配给轻量模型或高性能模型。简单任务可以使用调用成本较低的模型,复杂任务则交给能力更强的模型处理,在保证生成质量的同时控制大模型调用成本。
更安全:多层级安全审计与合规管理
1Panel AI 网关提供由多种能力组成的安全防护体系。
第一层是动态敏感词归一化拦截,支持识别谐音、拆字和拼音等变体内容。
第二层是向量语义级审核,可用于识别对抗性攻击和违规意图。
第三层是全量调用内容审计,帮助管理员追踪模型请求与响应内容。
平台还支持将请求正文和响应正文推送至 Elasticsearch。企业可以利用 Elasticsearch 对调用记录进行检索和分析,为内部审计及等保合规工作提供数据基础。
更精细:支持权限与成本管控
在权限管理方面,1Panel AI 网关采用用户组、用户和 API Key 三级继承体系,帮助企业建立清晰的模型资源访问边界。
管理员可以针对不同对象设置:
- 并发限额;
- Token 配额;
- 模型白名单;
- 使用状态总开关;
- API Key 创建、冻结、重置和过期时间。
平台还提供可视化数据追踪面板,可根据实际调用情况展示资源用量,方便团队了解 Token 消耗和模型使用情况。
更强韧:支持高并发调度与性能优化
1Panel AI 网关提供网关、用户组、API Key 和模型账号四级并发控制,并支持容量感知调度、优先级管理及会话亲和。
平台可以根据 API Key 和客户端 IP 识别会话,将同一组多轮对话尽量转发至相同的模型账号。这种调度方式有助于提高 vLLM Prefix Cache 的命中率,减少重复计算并改善模型服务性能。
付费与授权模式
1Panel AI 网关提供社区版和企业版两种使用方式。
社区版
部署 1Panel 社区版后,10 人及以内规模的团队可以免费使用完整的 AI 网关功能,适合创业团队、小型研发团队和内部 AI 项目使用。
企业版
团队规模超过 10 人时,可以订购 1Panel 企业版,解锁不限团队人数的使用权限以及相应的高级服务支持。
具体授权范围、服务内容和价格以 1Panel 官方页面最新说明为准。
如何部署1Panel AI网关
1Panel AI 网关提供应用市场一键部署和 Docker 镜像手动部署两种方式。
方式一:通过1Panel应用商店部署
将 1Panel 面板升级至支持 AI 网关的最新版本,然后进入应用商店,搜索“1Panel AI 网关”。
找到应用后点击安装,按照页面提示完成配置,系统会自动进行部署和初始化。这种方式操作步骤较少,适合已经使用 1Panel 管理服务器的用户。
方式二:通过官方Docker镜像部署
如果不通过 1Panel 应用商店,也可以拉取官方 Docker 镜像独立运行:
docker run --pull always -d \
--name 1panel-ai-gateway \
--restart unless-stopped \
-p 8080:8080 \
-v /opt/ai-gateway:/opt/ai-gateway \
1panel/ai-gateway
这条命令会完成以下操作:
- 拉取最新版
1panel/ai-gateway镜像; - 创建名为
1panel-ai-gateway的容器; - 将服务器的
8080端口映射至容器; - 将数据保存至
/opt/ai-gateway; - 设置容器异常退出或服务器重启后自动运行。
容器启动后,可以执行以下命令查看运行日志和管理员初始密码:
docker logs 1panel-ai-gateway
获取初始密码后,通过浏览器访问服务器对应地址即可登录管理后台。如果服务器已启用防火墙或安全组,还需要确认 8080 端口是否允许访问。
总结
1Panel AI 网关面向社区用户开放后,10 人及以内团队可以免费使用统一模型接入、智能路由、安全审计、权限管理、Token 配额和高并发调度等功能。
对于需要同时管理多个公有云模型、本地模型和 GPU 集群的团队,这套网关可以减少重复接入工作,并集中管理 API Key、模型权限和调用成本。团队人数超过 10 人时,则需要使用企业版获得不限人数授权及高级服务支持。
查看更多:《1Panel面板教程》
-
广告合作
-
QQ群号:4114653











