摘要:大模型调用外部 API,通常通过工具调用或 Agent 完成。模型负责理解意图并生成参数,业务系统负责鉴权、执行 API、校验结果,再把结构化数据交给模型组织回答。这样可以补充企业工商、行情、汽车等实时或专业数据。
模型参数中的知识不是实时数据库,也无法自动访问企业业务系统。面对“当前黄金价格”“某企业工商信息”“这个 VIN 对应什么车型”等问题,可靠做法是调用相应数据 API,而不是让模型凭记忆猜测。
外部 API 主要解决三类问题:一是实时性,例如股票、期货和黄金行情;二是专业结构化数据,例如车型、VIN 和汽配 OE;三是业务动作,例如查询、计算或调用企业内部服务。
| 方式 | 更适合的数据 | 典型用途 |
|---|---|---|
| RAG | 文档、制度、说明书、知识库文章 | 从非结构化资料中检索答案 |
| API 工具调用 | 实时、结构化、按参数查询的数据 | 行情、企业、车辆和业务系统查询 |
| 组合使用 | 文档规则加实时结果 | 先查接口,再结合业务规则解释 |
例如,汽车 Agent 可以通过 VIN API 获取车型,再从维修知识库检索操作说明;企业 Agent 可以查询工商信息,再结合内部准入制度给出流程建议。
用户问题先由模型识别意图,系统只向模型提供经过授权的工具。模型生成参数后,服务端完成 Schema 校验和 APPKEY 鉴权,调用外部 API,并检查业务状态码。最后,模型只能基于返回结果生成答案,同时保留来源和更新时间。
对于金融、企业核验等重要场景,应增加人工复核、风险提示和失败降级,不能让模型在接口失败时自动编造结果。
极速数据提供两类互补能力:
模型数量、价格和限时折扣变化较快,文章不宜长期固化具体型号和价格,应链接到模型详情页并定期更新。
任何数据服务都可能受数据源、更新时间、输入质量和网络状态影响。系统应展示来源与时间,对高风险场景增加复核。
不建议。APPKEY 应由可信服务端或安全工具运行环境保管,模型只负责选择工具和生成经过约束的参数。
可以,但应根据业务角色设置工具权限。例如汽车客服只开放车型和汽配工具,避免工具过多造成误选或不必要的费用。


© 2015-2025 杭州极速互联科技有限公司 版权所有 浙ICP备17047587号-4 浙公网安备33010502005096 增值电信业务经营许可证:浙B2-20190875