API 市场的未来:整合 AI 驱动的解决方案

人工智能驱动的解决方案如何塑造API市场并革新集成

Jul 19, 2024

API 市场的未来:整合 AI 驱动的解决方案 API 市场正在快速发展,受到基于 AI 的解决方案激增的推动。作为一名拥有超过 25 年编程经验的资深技术专家,我有幸见证并参与了这一转变。最近,我深入研究了从 AI 驱动的 API 提供商的角度来看 API 市场集成的复杂性。本文分享了我的发现、见解以及对未来的愿景。
介绍

API 市场正在迅速发展,受到基于 AI 的解决方案激增的推动。作为一名拥有超过 25 年编码经验的资深技术专家,我有幸见证并参与了这一变革。最近,我深入研究了从 AI 驱动的 API 提供商的角度进行 API 市场集成的复杂性。本文分享了我的发现、见解以及对未来的展望。

简要背景

在我的职业生涯中,我为各种客户和公司构建了数百个 API,我曾担任 CTO。我的旅程包括为广泛使用的 API 设定行业标准,并成为 Octo.travel 的创始成员之一,我们为旅游行业的旅游、活动和景点预订系统建立了 API 标准。我们在 2015 年开发的 BeMyGuest.com.sg 分销 API 是这一工作的一个重要组成部分。这个 API 在当时对行业来说是如此具有突破性,以至于 FastCompany 将我们评为 2016 年全球 50 家最具创新力公司之一

当前格局

AI 驱动的 API 正在革新我们与技术互动的方式,提供无与伦比的灵活性和功能。然而,将这些 API 集成到现有市场中带来了独特的挑战和机遇。以下是一些最关键方面的概述:

不可预测性和不一致性

GPT 模型功能强大,但也具有不可预测性。它的响应可能会有所不同,这使得确保一致的输出变得困难。对于业务流程来说,一致性至关重要。输出的变化可能导致错误和额外的验证层,复杂化自动化流程。

自动化的复杂性

与 GPT 这样的大型语言模型(LLM)进行自动化通信并不总是那么简单。开发人员必须管理边缘情况、处理超时并确保请求可靠地处理。这种固有的复杂性增加了显著的开销,使构建完全自动化的系统具有挑战性。

幻觉问题

GPT 有时会生成看似合理但不正确或无意义的信息。这些“幻觉”可能会误导业务流程,可能造成比好处更多的损害。

超时和可靠性

GPT 端点有时可能会超时,导致请求失败。管理这些失败并在保持上下文的情况下重试请求可能会很麻烦。确保高可用性和可靠性需要额外的基础设施和努力。

AI API 集成的领导者

我相信到 2024 年,ApyHub 将在为基于 AI 的工作提供 API 服务方面处于领先地位,并采用灵活的定价模型。他们创建了一个强大的平台,能够适应 AI 处理的动态性质,为其他人设定了高标准。竞争对手开始赶上来,这从 API.Market 社区或 AllThingsDev 等平台上的讨论中可见一斑。

大玩家:落后

令人惊讶的是,像 Zapier 和 RapidAPI 这样的主要参与者尚未完全接受 AI 处理和可变定价的复杂性。这种犹豫在市场上留下了一个显著的空白,小型且更灵活的公司急于填补这一空白。

理解 AI 作业

为了充分认识 AI 对 API 的影响,必须区分传统 API 和 AI 作业。传统 API 或“ping/pong API”以简单的请求/响应周期运作。相比之下,AI 作业涉及一个更复杂的多步骤过程:
  1. 派遣作业:启动 AI 任务。
  2. 接收结果:收集和处理任务的结果。
AI 处理时间的不可预测性需要对轮询或 webhook 机制的强大支持。这种复杂性因需要一致和可靠的输出而加剧,尤其是在使用像 GPT 这样的模型时,这些模型有时会产生可变的结果。

异步通信是 AI 驱动 API 的关键。

经济影响:代币经济

AI 作业的成本结构与传统 API 本质上不同。以下是一些需要考虑的关键点:

不可预测的成本

AI 作业的最终成本在结果获取之前是未知的。这种不可预测性使每次请求的定价模型不合适。每次派遣请求都会产生成本,但确切金额在作业完成之前仍然未知。这种可变性通常通过基于代币的定价模型进行管理,增加了另一层复杂性。代币代表计算努力的单位,其价值和消耗会波动,反映了 AI 任务处理的固有不可预测性。

派遣成本

每次派遣都会产生成本,但确切金额在作业完成之前仍不确定。这种不可预测性可能导致可变定价,进一步使企业的预算编制和成本管理复杂化。

免费结果检查

为了考虑可变的处理时间,检查作业结果应该是免费的。这种方法有助于缓解一些不可预测性,确保企业不会因 AI 处理的固有可变性而受到惩罚。

未来证明 API 市场

为了在 AI 时代蓬勃发展,API 市场必须适应这些新要求。以下是一些建议:
  • 高级配置选项:供应商应能够将端点指定为派遣类型或结果类型,并配置如何处理唯一作业 ID。
  • 成本计算:应根据 AI 作业结果端点返回的头值确定成本,并在这些值的传输方式上具有灵活性。
  • 供应商灵活性:市场应提供更高级的用户体验界面,以帮助供应商高效管理 AI 作业类型的端点。
结论

将 AI 驱动的 API 集成到市场中代表了技术的重大进步。然而,要充分利用这种潜力,行业必须接受针对 AI 作业独特需求量身定制的新模型和标准。通过采用灵活的定价、强大的支持机制和高级配置选项,我们可以确保 API 市场保持在创新的前沿。

SharpAPI 的角色

SharpAPI.com 在这个领域中作为一个重要的参与者出现,解决 AI 输出的不可预测性和不一致性问题。通过创建一致性和更可靠的结果,SharpAPI 确保企业可以依赖 AI 驱动的 API,而没有典型的缺点。这种方法使自动化更简单、更可靠,为行业设定了新的标准,同时密切监控使用 AI 引擎的可变成本。
最初发表于 https://dawidmakowski.com 于 2024 年 7 月 19 日。

喜欢 SharpAPI?分享它并获得 30% 的永久性佣金。

您的客户已经需要人工智能。通过推荐最简单的添加方式来获得报酬。