AI 交付选项 · 私有托管模型
私有 / 本地 AI 工程
借助运行在私有托管模型上的 AI 开发智能体构建软件,模型部署在你掌控的基础设施中,或部署在我们与你共同商定的隔离环境中。采用与每一次合作相同的工程、设计、QA 和发布标准。
面向受控环境
最适合的情形
在我们与你商定的处理环境内,使用合适的私有托管模型进行软件交付。这是一项工程合作,而非 GPU 租赁:我们选择和评估模型、搭建开发智能体及其权限,并以同样的专家设计、QA 和发布控制进行交付。
- 你的政策不允许源代码或项目上下文由外部 AI 服务处理。
- 你处理敏感数据、受监管的工作流或有价值的知识产权。
- 你希望有一个明确的处理边界,供你的安全团队审查。
- 你希望保留日后自行运行并改进该配置的选择。
合作包含的内容
模型选择与评估
在确定选用某个模型之前,我们会筛选出合适的开放权重编程模型,并用来自你自己代码库的任务对它们进行评估。
你的基础设施或某个隔离环境
模型运行在你掌控的基础设施中,或运行在我们与你共同商定的隔离环境中,并对边界进行记录。
开发智能体与权限
智能体工具以最小权限访问代码仓库、环境和工具,其变更须经过审查。
代码、提示词、研究与数据
我们会约定源代码、提示词、研究、测试数据、日志和集成的存储、保留及访问方式。
专业的工程、设计、QA 与发布
工程师负责架构与审查,设计师负责体验,QA 验证行为,发布则保持受控。
可选的持续管理
交付后我们可以继续运营模型环境:更新、监控、容量和访问审查。
运作方式
- 01
商定边界
梳理哪些内容必须保持私密(代码、数据、研究、日志和出站连接),并选择你的基础设施或某个隔离环境。
- 02
评估与搭建
用你自己的任务测试候选模型,按工作负载匹配硬件规格,并配置智能体、访问权限和日志记录。
- 03
在专家把控下构建
工程师协调这些智能体并审查其变更,设计、QA 和 DevOps 处于同一工作流中。
- 04
发布与运营
通过受控发布上线,随后连同文档将配置移交给你,或由我们在支持计划下为你管理。
须知
- 此套餐涵盖我们在构建期间所使用的 AI 工具。你完成的产品可以按其自身需求托管在任何地方,包括云端。
- 硬件、托管和模型管理按每次合作确定范围并计价;没有任何内容是固定打包的。
- 交付物取决于具体合作:一次独立的 UX 评审不包含运行模型环境。
常见问题
私有 / 本地 AI 工程:常见问题
这只是租用一块 GPU 吗?
不是。硬件只是其中一项投入。合作涵盖模型选型与评估、智能体搭建与权限、代码和数据的处理方式,以及工程、设计、QA 和发布工作本身。
私有模型的表现会和领先的云端模型一样好吗?
不一定;这取决于任务。我们会用来自你自己代码库的工作任务评估候选模型,解释其中的取舍,并围绕它们规划审查和测试。
私有开发是否意味着我们的产品必须离线运行?
不是。此套餐关乎 AI 工具在我们构建期间于何处处理代码和上下文。你的产品可以运行在云端、你的服务器上或离线运行,这由其自身需求决定。
这会让我们的项目自动变得安全或合规吗?
没有任何配置能单凭自身保证这一点。我们会与你一起定义处理边界、访问控制和日志记录并加以记录,以便你的安全和合规团队进行审查。
上线后由谁运行模型环境?
由你选择。我们可以连同文档和培训将其移交给你,或在约定的支持计划下为你管理。