蓝心九问

API介绍

您可以使用 API 服务,将您在九问上创建的Bot 部署为可调用的接口。通过 HTTP 请求,您的应用、服务或工作流可以与这些 Agent 进行交互,从而实现各种智能化的业务场景,例如:

  • 智能客服:集成Bot 到您的网站或应用中,提供全天候的自动化客户服务。
  • 内容创作:利用Bot 自动生成报告、文案或邮件草稿,提高内容生产效率。
  • 数据分析:调用Bot 对数据进行快速分析和洞察,辅助决策。
  • 任务自动化:让Bot 执行重复性任务,如数据整理、信息查询等,释放人力。

API 限制说明

我们为所有用户提供免费的API服务,您可以自由地发布和使用您创建的Bot,但由于平台资源有限,会针对API调用实行限流策略。

限流策略:为了保障平台的稳定性和公平性,我们对 API 的使用设置了以下基础限流策略:

维度限流策略
关键 API 的 QPS(包括发起对话、执行工作流等)20 QPS
上传文件 API 的 QPS10 QPS
模型并发限制(调用涉及模型处理的 API)大部分模型默认支持2并发

请求体限制:为了保障系统性能,我们对 API 请求体大小进行了限制:

  • 工作流相关 API 的请求体大小限制为 20MB。
  • 其他类别 API 的请求体大小限制为 15MB。

基础概念

名词说明示例
会话Bot和用户之间的一段问答交互。一个会话包含一条或多条消息,并且能够自动处理截断,以适应模型的上下文内容。
消息一条由用户或Bot创建的消息,消息内容可以包括文本、图片或文件。消息以列表的形式储存在对话中。
对话在会话中对Bot的一次调用。Bot收到请求后,结合用户输入、通过预设的一系列工作流等配置来调用模型或工具执行指定任务。每个对话都是会话的一部分,Bot会将对话中产生的消息添加到会话中。你可以直接发起对话,与Bot进行一次交互;也可以创建会话和消息,并在指定会话中发起对话,会话中的其他消息会作为历史消息传递给大模型。
上下文段落在Bot对话管理中,Section 是一个独立的上下文段落,用于分隔不同的对话阶段或主题。创建会话时会生成一个 Section,Section 中包含上下文消息,当用户清除上下文时,系统会创建一个新的 Section,从而确保新的对话不受历史消息的影响。

会话、消息和上下文段落的关系如下图所示。 

API发布

Bot发布为 API 渠道之后,才能通过调用 API 的方式使用这个Bot,例如查看Bot的基本设置、发起一个智能体对话等。 操作步骤如下:

  • 登录九问平台。
  • 在Bots页面,选择自己创建的Bot。
  • 在页面上方,单击发布。
  • 在发布页面,选择 API 选项,然后单击发布。

On this page