源本科技 | 码上会

LLM 开发应用为什么不能仅调用外部 API

2026/04/04
1
0

LLM 开发应用为什么不能仅调用外部 API,比如通义千问?需要考虑哪些因素?

肯定不能只靠外部 API,核心有三个关键因素。第一是架构层面,外部 API 没有重试、兜底机制,万一接口崩了,整个应用就停了,而且没法和自己公司的后端系统、数据库联动,也没法做日志、性能优化。第二是数据安全,企业的敏感数据,比如客户信息、内部文档、行业机密,传去外部平台很容易泄露,尤其是医疗、金融这些合规要求高的行业,绝对不能这么做。第三是业务定制,外部 API 是通用的,满足不了企业的具体需求,比如公司要结合自己的历史文档做问答,外部 API 做不到,必须自己集成优化,才能贴合业务