香港AI咨询服务：采购前必须厘清的六个问题

AI咨询香港中小企业 RAG 采购指南 LLM应用

香港有越来越多中小企业正在引入AI。部分已购买ChatGPT Plus或Claude订阅，部分曾接触供应商提案，部分已完成初步试点。但真正完成部署、持续稳定运作的生产级AI系统，至今仍属少数。

差距所在，往往并非技术问题，而是采购决策的问题。

AI咨询服务的供应商市场正在快速扩张。部分提供的是工具授权转售，部分能交付可运行的自定义系统，部分介于两者之间。在这个市场，提案语言趋于一致——"智能AI"、"RAG"、"自动化流程"——令评估工作变得困难。

以下六个问题，并非技术审查清单，而是采购决策的判断框架。任何背景的业主均可在洽谈前使用。

一、对方能否分析并接手你的业务流程？

AI咨询并非安装软件。一个能产生实际业务影响的AI系统，必须建基于对现有流程的清晰理解——文件从哪里来、由谁处理、以什么格式输出、交给哪个环节。

如果供应商在初次会议上以演示优先、流程分析其次，通常意味着他们在销售通用方案，而非为你的业务定制系统。

可验证的问题："你能具体描述我们的业务流程在AI整合后的每个步骤吗？"能够清楚回答的供应商，才具备设计可运行系统的基础。交付能力与顾问建议能力的差异，在企业为何需要AI顾问，而非单纯使用Claude或Poe中有详细拆解。

企业在使用AI工具的过程中，积累了大量对话数据、提示设计和业务上下文。这些数据存储在哪里？属于谁？

主要AI平台（ChatGPT、Claude、Gemini）在默认设置下，对话历史存放于平台服务器，不同对话之间通常不会自动共享记忆。企业为AI系统积累的上下文，往往无法带走或迁移。

采购AI咨询服务时，需要厘清：AI系统的记忆层设计在哪里的基础设施之上？若合作关系结束，这些数据能否完整迁移？未来更换供应商的转移成本是多少？

自定义系统能够将记忆层部署在企业自有基础设施上，令上下文积累成为企业资产而非平台资产。相关架构设计详见HKSoka记忆系统的工程拆解。

大多数企业的核心知识，存放于PDF报告、内部手册、电邮记录或即时通讯对话之中。AI系统若无法接入这些数据源，其实际用途便大幅受限。

检索增强生成（RAG）是目前主流的整合方案——AI在回答问题时，从企业文件库中实时检索相关内容，而非依赖模型训练时的静态知识。

但RAG系统的质量差异极大。需要厘清的问题包括：系统能否处理混合中英文文件？文件更新后，系统能否即时反映最新版本？多份文件同时查询时，如何排序相关性？

香港企业文件普遍存在繁体中文与英文并存的情况，这对RAG系统的检索准确率有显著影响。具体挑战与验证方法，可参考双语RAG的实际限制。

AI系统的实际价值，往往取决于整合深度。一个只能在独立界面运作的AI助手，员工需要主动切换工具才能使用，采用率通常偏低。

整合可能涉及：内部ERP或CRM系统、即时通讯平台（WhatsApp Business等）、电邮工作流、Google Workspace或Microsoft 365文件库、现有审批或报告流程。

供应商应能具体说明整合方案的技术实现，而非仅承诺"可以整合"。Agent架构与固定Pipeline在整合深度和成本上有显著差异，不同用例适合不同设计，不存在普遍最优的选择——相关分析见AI Agent还是固定Pipeline：如何选择适合你用例的架构。

AI系统上线后，如何确认员工在使用？哪些功能使用频率最高？哪些查询类型最常触发错误或低置信度回答？

缺乏使用量追踪的AI系统，无法进行有效的持续优化，也无法向管理层提供投资回报的客观数据。

采购前需确认：系统是否内建使用日志和分析功能？错误或低置信度回答能否被识别和记录？有没有定期的效能评估机制？

大型语言模型存在幻觉（Hallucination）这一已知限制——即生成看似合理但实际错误的信息。生产级系统通过检索接地、置信边界设计和审计日志来管理这一风险。相关设计原则见LLM答错时：生产AI系统的问责机制与验证设计。

企业AI系统通常服务于多个部门或岗位，不同用户的数据访问范围和功能需求不同。

人力资源部门的AI助手，不应能够访问财务数据；初级员工的查询，不应触及管理层的决策文件。这些限制需要在系统架构层面实现，而非依赖用户自律或事后管理。

供应商应能具体说明：用户权限如何在技术层面定义和管理？部门隔离如何实现？员工离职或岗位变动后，权限变更的处理流程是什么？管理员能否独立管理这些设定，无须每次依赖供应商介入？

香港中小企业采购AI的路径通常有三种，各有适用场景。

工具订阅（ChatGPT Plus、Claude Pro等月费服务）：适合个人使用或初期探索。启动成本低，无须技术团队。记忆不可跨平台迁移，整合能力受限，无法定制化业务流程。

AI咨询采购（委托顾问或工程师设计自定义系统）：适合有明确业务问题、需要系统性解决方案的企业。关键评估标准在于供应商是否能交付可运行系统，而非仅提供建议书或策略报告。

自建系统：需要内部工程能力或长期技术合作伙伴。适合业务流程高度特殊或数据敏感度极高的场景。前期投入较高，系统完整归属企业。

三条路径无绝对优劣，取决于业务规模、数据敏感度、预算结构和内部技术能力的组合。企业AI顾问与直接使用LLM平台之间的六种功能缺口，是厘清自身需求的实用起点。

AI系统，包括目前最先进的大型语言模型，均存在已知限制：幻觉、推理不稳定、对复杂边缘情况的处理能力有限。生产级系统通过多层设计管理这些风险，但不能消除。任何承诺"零错误"或"完全自动化"的供应商，描述的是销售立场而非工程现实。合理的技术伙伴，会在洽谈初期明确说明系统的可靠边界和失效条件。

Levi 是香港独立AI工程师，为香港及大湾区企业构建生产级LLM应用及RAG Pipeline。学术背景包括比利时Vlerick商学院商业分析与AI硕士，生产部署包括保险行业RAG比对系统及HKSoka（hksoka.com）多层记忆AI平台。过往亦曾实际应用于客户项目（受NDA保护）。

Levi是驻香港的独立AI工程师，为内地推进AI数字化转型的中小企业构建生产级LLM应用、RAG pipeline及文件智能系统。