聊天补全

特定来源的说明

重要！

大多数 API 平台只允许你在创建时查看一次生成的 API key。如果你丢失了它，你需要生成一个新的 key。确保妥善保管！

OpenAI

使用 OpenAI 的开发者平台访问各种 OpenAI 模型，包括 gpt-4o、gpt-4.1、o3 等。

如何获取 API key：

前往 OpenAI 并登录。
使用 "View API keys" 选项创建一个新的 API key。

Claude

Claude 是由 Anthropic 开发的 AI 模型系列。你可以通过 Anthropic 控制台访问 Claude 模型。

如何获取 API key：

前往 Anthropic Console 并登录。
使用 "Get API Key" 部分创建一个新的 API key。

Mistral AI

Mistral AI 是一个团队，以高科学标准和对开放性的关注开发开放和专有模型。你可以在本地运行他们的模型，或通过他们的 API 服务 La Plateforme 访问。

如何获取 API key：

第一步是在 La Plateforme 上创建账户。
完成后，你可以选择一个计划并设置付款信息，或选择免费层。
接下来，你可以创建你的 API key。你可能需要等待几分钟，key 才会生效！

DeepSeek

DeepSeek Platform 通过 API 提供对最新 DeepSeek 模型的访问。它们提供一系列模型，包括 DeepSeek V3 和 DeepSeek R1。

如何获取 API key：

在 DeepSeek Platform 上注册。
注册并充值账户后，你可以在 "API keys" 部分创建 API key。

AI21

AI21 Labs 提供一系列 AI 模型，包括他们的旗舰 Jamba 系列。你可以通过 AI21 Studio API 访问他们的模型。

如何获取 API key：

前往 AI21 Studio 并登录。
导航到 "Settings => API Keys" 部分创建一个新的 API key。

Cohere

Cohere 为各种任务提供一套 AI 模型，包括文本生成和 embeddings。你可以通过 Cohere API 访问他们的模型。

如何获取 API key：

前往 Cohere 并登录。
在账户设置中导航到 "API Keys" 部分创建一个新的 API key。

Perplexity

Perplexity AI 通过其 API 提供对在线启用的 Sonar 模型的访问，用于实时研究和信息检索。

官方入门指南：Perplexity Quickstart

如何获取 API key：

前往 Perplexity 并登录。
前往 "API billing" 部分购买 API 使用的 credits。
在设置中导航到 "API keys" 部分创建一个新的 API key。

Fireworks AI

Fireworks AI 是一个高性能平台，提供对最先进的开源语言模型的快速、经济高效的访问。该平台提供具有 OpenAI 兼容 API 的无服务器部署，并支持高达 256,000 tokens 的 context 窗口。

如何获取 API key：

前往 Fireworks AI 并创建账户或登录。
在账户设置中导航到 API Keys 页面。
点击 "Create API key" 并提供一个描述性名称（例如，"SillyTavern"）。

Electron Hub

Electron Hub 是一个统一的 OpenAI 兼容平台，通过单个 API key 提供对来自多个供应商的模型的访问。

如何获取 API key：

在 Electron Hub 创建账户。
从 Console → API Keys 页面生成 API key。

自定义 OpenAI 兼容 endpoint

重要的是要注意，我们不为你可能遇到的问题提供支持！我们不保证与每个可能的 API endpoint 的兼容性！

如果你打算使用此功能来使用本地 endpoint，如 TabbyAPI、Oobabooga、Aphrodite 或任何类似的，你可能想要查看内置兼容性。自定义 endpoint 功能主要用于与公开 OpenAI 兼容的 API Chat Completion endpoint 的其他服务和程序一起使用。

大多数 Text Completion API 支持比 OpenAI 标准允许的更多自定义选项。这些更多的自定义选项，如 Min-P sampler，对于 SillyTavern 用户来说可能值得查看，这可以大大提高生成的质量。

你可以为 Chat Completions 后端配置替代 endpoint。此自定义 endpoint 可以连接到任何支持通用 OpenAI API schema 的服务器。

兼容后端的示例包括：

连接

要访问此功能：

切换到 'Chat Completion' API 类型
为 'Chat Completion Source' 选择 'Custom (OpenAI-compatible)'

输入自定义 endpoint URL 和 API key（如果需要）。例如，TabbyAPI 需要 API key 进行身份验证。

提示： 如果你遇到连接问题，尝试在 endpoint URL 末尾添加 /v1。不要添加 /chat/completions 后缀。

选择模型

如果自定义 API 实现了 /v1/models endpoint 以提供可用模型列表，你可以从下拉列表中选择。否则，使用文本字段手动输入模型 ID。

勾选 'Bypass API status check' 以防止 SillyTavern 提醒你 API endpoint 无法正常工作。如果你的 API endpoint 工作正常但 SillyTavern 继续显示警告，请启用此选项。

点击 "Test Message" 通过向模型发送一个简单的提示来验证连接性。

Prompt 后处理

注意： 当使用带 "no tools" 的后处理选项时，不支持 Tool Calling！

某些 endpoint 可能对传入提示的格式施加特定限制，例如只需要一条系统消息或严格交替角色。

SillyTavern 提供内置提示转换器来帮助满足这些要求（从最少到最多限制）：

None - 除非 API 严格要求，否则不应用显式处理
Merge consecutive messages from the same role
Semi-strict - 合并角色并只允许一条可选系统消息
Strict - 合并角色，只允许一条可选系统消息，并要求用户消息优先
Single user message - 将所有角色的所有消息合并为单个用户消息

Merge、semi-strict 和 strict 还会从提示中删除任何 tool calls，除非选择了 "with tools" 变体。这对于不支持 tool calling 且你现有的提示包含 tool calls 的 API 很有用。

除了"Custom OpenAI-compatible"之外，更少限制的选项对 SillyTavern 中实现的更多限制 endpoint 没有影响；Custom 可能会在无效请求时出错。

在 strict 模式下，如果在第一条助手消息之前不存在用户消息，则将插入 config.yaml 中的 promptPlaceholder，默认为"[Start a new chat]"。