跳到主要内容

模型服务概述

本文档介绍 seekdb 中模型服务的相关功能。模型服务支持注册和管理 AI 模型及端点,是使用 AI 函数调用服务的基础。

什么是模型服务

模型服务是 seekdb 中用于管理 AI 模型及端点的功能,通过 DBMS_AI_SERVICE 系统包实现模型的注册、修改和删除等操作。

以下是模型服务中的核心概念:

概念说明
AI 模型(AI Model)AI 模型是 seekdb 中的一个抽象对象,用于在数据库内标识和引用具体的 AI 模型。通过 CREATE_AI_MODEL 创建模型对象后,可以在 AI 函数中通过 model_key 引用该模型。
AI 模型端点(AI Model Endpoint)AI 模型端点是连接外部 AI 模型服务的具体配置,包含 URL、API Key、请求模型名称和供应商等信息。端点定义了如何与外部模型服务通信。
模型类型(Model Type)模型类型指 AI 模型的功能分类,seekdb 支持以下类型:
  • 文本生成模型(LLM):用于 AI_COMPLETE 函数,生成文本内容。
  • 嵌入模型(Embedding):用于 AI_EMBED 函数,将文本做向量嵌入处理。
  • 重排序模型(Rerank):用于 AI_RERANK 函数,对文档进行重排序搜索。
供应商(Provider)供应商是提供 AI 模型服务的服务商,如 OpenAI、DeepSeek 等。不同供应商的 API 格式和参数可能有所不同,seekdb 通过 provider 参数适配不同供应商的接口规范。

和 AI 函数服务的关系

提示

混合搜索(Hybrid Search)依赖 AI 模型管理和 AI_EMBED 函数功能。在删除 AI 模型时,需检查其是否被混合搜索引用,以避免潜在问题。

AI 模型管理服务是 AI 函数调用服务的基础。在 seekdb 中,只有在成功注册并管理好 AI 模型及其端点之后,才能在 SQL 层调用各类 AI 函数(如 AI_COMPLETE、AI_EMBED、AI_RERANK 等),实现数据库内置的文本生成、向量嵌入、检索重排序等智能处理能力。详细的 AI 函数调用及其用法请参见 AI 函数概述