介绍
API 市场正在迅速发展,受到基于 AI 的解决方案激增的推动。作为一名拥有超过 25 年编码经验的资深技术专家,我有幸见证并参与了这一变革。最近,我深入研究了从 AI 驱动的 API 提供商的角度进行 API 市场集成的复杂性。本文分享了我的发现、见解以及对未来的展望。
简要背景
当前格局
AI 驱动的 API 正在革新我们与技术互动的方式,提供无与伦比的灵活性和功能。然而,将这些 API 集成到现有市场中带来了独特的挑战和机遇。以下是一些最关键方面的概述:
不可预测性和不一致性
GPT 模型功能强大,但也具有不可预测性。它的响应可能会有所不同,这使得确保一致的输出变得困难。对于业务流程来说,一致性至关重要。输出的变化可能导致错误和额外的验证层,复杂化自动化流程。
自动化的复杂性
与 GPT 这样的大型语言模型(LLM)进行自动化通信并不总是那么简单。开发人员必须管理边缘情况、处理超时并确保请求可靠地处理。这种固有的复杂性增加了显著的开销,使构建完全自动化的系统具有挑战性。
幻觉问题
GPT 有时会生成看似合理但不正确或无意义的信息。这些“幻觉”可能会误导业务流程,可能造成比好处更多的损害。
超时和可靠性
GPT 端点有时可能会超时,导致请求失败。管理这些失败并在保持上下文的情况下重试请求可能会很麻烦。确保高可用性和可靠性需要额外的基础设施和努力。
AI API 集成的领导者
我相信到 2024 年,
ApyHub 将在为基于 AI 的工作提供 API 服务方面处于领先地位,并采用灵活的定价模型。他们创建了一个强大的平台,能够适应 AI 处理的动态性质,为其他人设定了高标准。竞争对手开始赶上来,这从
API.Market 社区或
AllThingsDev 等平台上的讨论中可见一斑。
大玩家:落后
令人惊讶的是,像 Zapier 和 RapidAPI 这样的主要参与者尚未完全接受 AI 处理和可变定价的复杂性。这种犹豫在市场上留下了一个显著的空白,小型且更灵活的公司急于填补这一空白。
理解 AI 作业
为了充分认识 AI 对 API 的影响,必须区分传统 API 和 AI 作业。传统 API 或“ping/pong API”以简单的请求/响应周期运作。相比之下,AI 作业涉及一个更复杂的多步骤过程:
- 派遣作业:启动 AI 任务。
- 接收结果:收集和处理任务的结果。
AI 处理时间的不可预测性需要对轮询或 webhook 机制的强大支持。这种复杂性因需要一致和可靠的输出而加剧,尤其是在使用像 GPT 这样的模型时,这些模型有时会产生可变的结果。
异步通信是 AI 驱动 API 的关键。
经济影响:代币经济
AI 作业的成本结构与传统 API 本质上不同。以下是一些需要考虑的关键点:
不可预测的成本
AI 作业的最终成本在结果获取之前是未知的。这种不可预测性使每次请求的定价模型不合适。每次派遣请求都会产生成本,但确切金额在作业完成之前仍然未知。这种可变性通常通过基于代币的定价模型进行管理,增加了另一层复杂性。代币代表计算努力的单位,其价值和消耗会波动,反映了 AI 任务处理的固有不可预测性。
派遣成本
每次派遣都会产生成本,但确切金额在作业完成之前仍不确定。这种不可预测性可能导致可变定价,进一步使企业的预算编制和成本管理复杂化。
免费结果检查
为了考虑可变的处理时间,检查作业结果应该是免费的。这种方法有助于缓解一些不可预测性,确保企业不会因 AI 处理的固有可变性而受到惩罚。
未来证明 API 市场
为了在 AI 时代蓬勃发展,API 市场必须适应这些新要求。以下是一些建议:
- 高级配置选项:供应商应能够将端点指定为派遣类型或结果类型,并配置如何处理唯一作业 ID。
- 成本计算:应根据 AI 作业结果端点返回的头值确定成本,并在这些值的传输方式上具有灵活性。
- 供应商灵活性:市场应提供更高级的用户体验界面,以帮助供应商高效管理 AI 作业类型的端点。
结论
将 AI 驱动的 API 集成到市场中代表了技术的重大进步。然而,要充分利用这种潜力,行业必须接受针对 AI 作业独特需求量身定制的新模型和标准。通过采用灵活的定价、强大的支持机制和高级配置选项,我们可以确保 API 市场保持在创新的前沿。
SharpAPI 的角色
SharpAPI.com 在这个领域中作为一个重要的参与者出现,解决 AI 输出的不可预测性和不一致性问题。通过创建一致性和更可靠的结果,SharpAPI 确保企业可以依赖 AI 驱动的 API,而没有典型的缺点。这种方法使自动化更简单、更可靠,为行业设定了新的标准,同时密切监控使用 AI 引擎的可变成本。
最初发表于 https://dawidmakowski.com 于 2024 年 7 月 19 日。