#函数调用

函数调用允许通过让 LLM 使用结构化数据来为您的扩展添加动态功能,然后您可以使用这些数据触发扩展的特定功能。

#示例用例

  1. 查询外部 API 以获取额外信息(新闻、天气、网络搜索等)。
  2. 根据用户输入执行计算或转换。
  3. 存储和回忆重要记忆或事实,包括 RAG 和数据库查询。
  4. 在对话中引入真正的随机性(掷骰子、抛硬币等)。

#官方支持使用函数调用的扩展

  1. 图像生成(内置)- 根据用户提示生成图像。
  2. 网络搜索 - 触发查询的网络搜索。
  3. RSS - 从 RSS 源获取最新新闻。
  4. AccuWeather - 从 AccuWeather 获取天气信息。
  5. D&D Dice - 为 D&D 游戏掷骰子。

#前提条件和限制

  1. 此功能仅适用于某些聊天补全源:OpenAI、Claude、MistralAI、Groq、Cohere、OpenRouter 和自定义 API 源。
  2. 文本补全 API 不支持函数调用,但一些本地托管的后端(如 Ollama 和 TabbyAPI)可以在聊天补全下以自定义 OpenAI 兼容模式运行。
  3. 必须首先由用户明确允许使用函数调用功能。这是通过在 AI 回应配置面板中启用"启用函数调用"选项来完成的。
  4. 不能保证 LLM 会执行任何函数调用。大多数都需要通过提示词进行明确的"激活"(例如,用户要求"掷骰子"、"获取天气"等)。
  5. 并非所有提示词都能触发工具调用。继续、扮演、背景('安静')提示词不允许触发工具调用。它们仍然可以在其响应中使用过去成功的工具调用。

#如何制作函数工具

#检查功能是否受支持

要确定是否支持函数工具调用功能,您可以从 SillyTavern.getContext() 对象调用 isToolCallingSupported。这将检查当前 API 是否支持函数工具调用以及设置中是否启用了该功能。以下是如何检查功能是否受支持的示例:

if (SillyTavern.getContext().isToolCallingSupported()) { console.log("Function tool calling is supported"); } else { console.log("Function tool calling is not supported"); }

#注册函数

要注册函数工具,您需要从 SillyTavern.getContext() 对象调用 registerFunctionTool 函数并传递所需参数。以下是如何注册函数工具的示例:

SillyTavern.getContext().registerFunctionTool({ // 函数工具的内部名称。必须唯一。 name: "myFunction", // 函数工具的显示名称。将在 UI 中显示。(可选) displayName: "My Function", // 函数工具的描述。必须描述函数的功能和使用时机。 description: "My function description. Use when you need to do something.", // 函数工具参数的 JSON schema。参见:https://json-schema.org/ parameters: { $schema: 'http://json-schema.org/draft-04/schema#', type: 'object', properties: { param1: { type: 'string', description: 'Parameter 1 description', }, param2: { type: 'string', description: 'Parameter 2 description', }, }, required: [ 'param1', 'param2', ], }, // 工具触发时要调用的函数。可以是异步的。 // 如果结果不是字符串,它将被 JSON 字符串化。 action: async ({ param1, param2 }) => { // 您的函数代码在这里 console.log(`Function called with parameters: ${param1}, ${param2}`); return "Function result"; }, // 可选函数,用于格式化调用函数时显示的 toast 消息。 // 如果返回空字符串,则不会显示 toast 消息。 formatMessage: ({ param1, param2 }) => { return `Function is called with: ${param1} and ${param2}`; }, // 可选函数,返回一个布尔值,指示是否应为当前提示词注册工具。 // 如果没有提供 shouldRegister 函数,工具将为每个提示词注册。 shouldRegister: () => { return true; }, });

#取消注册函数

要停用函数工具,您需要从 SillyTavern.getContext() 对象调用 unregisterFunctionTool 函数并传递要禁用的函数工具的名称。以下是如何取消注册函数工具的示例:

SillyTavern.getContext().unregisterFunctionTool("myFunction");

#提示和技巧

  1. 成功的工具调用会作为可见历史的一部分保存,并将在聊天 UI 中显示,因此您可以检查实际的参数和结果。
  2. 如果您不想在聊天历史中看到工具调用。如果您想用自定义 CSS 设置样式或隐藏它们,请针对 .mes 元素上的 toolCall 类,例如 .mes.toolCall { display: none; }.mes.toolCall { color: #999; }