RAGFlow调用DeepSeek,青云科技让用户轻松突破智能检索、知识管理难题

互联网
2025
04/01
16:48
分享
评论

检索增强生成(RAG)技术正逐渐成为解决数据处理和答案生成难题的关键力量。青云科技旗下 AI 算力云服务——基石智算CoresHub 通过高度标准化的平台与应用集成,持续降低 AI 创新的技术门槛,支持包括 RAGFlow 在内的多方平台,灵活调用模型,将大模型与 RAG 技术相结合,帮助用户实现更智能、更高效的应用开发与部署。

本文将以智算平台上大模型服务中的 DeepSeek-R1 为例,向用户介绍如何在 RAGFlow 中添加并使用平台提供的模型服务。

RAGFlow 是一款基于 文档理解的开源检索增强生成(Retrieval-Augmented Generation,RAG)引擎。旨在通过 文档理解技术,解决现有 RAG 技术在数据处理和生成答案方面的挑战。

RAGFlow 具有如下功能特点:

文档理解。

可控可解释的文本切片。

可视化文本处理过程。

兼容多种异构数据。

自动化边界的 RAG 工作流。

支持多种 LLMs 和向量模型。

步骤一:获取 API 密钥和域名

1.注册并登录基石智算。

2.在顶部导航栏,选择产品与服务 > 大模型服务 > 大模型服务平台。

3.进入大模型服务管理页面,在左侧导航栏中选择 API 密钥管理,创建并获取 API 密钥。

说明:

若平台内无可用的 API 密钥,用户可参考创建和获取新的 API 密钥。

若平台内已有可用的 API 密钥,用户可直接将鼠标悬停在指定密钥上,点击 API 密钥右侧的复制按钮,即可获取完整的 API 密钥。

4.用户可在左侧导航栏选择在线推理服务,点击目标模型卡片页中的 API 文档,查看预置模型 API 服务接口路径,即为模型的 API 域名。

说明:当前平台上的预置模型的 API 域名为,用户可直接 使用无需修改。

步骤二:配置模型服务

1.访问 RAGFlow 系统地址,输入账号密码后登录。

前提:请确保已经安装 RAGFlow。

2.点击右上角用户头像,在左侧导航栏选择模型供应商,并点击 OpenAI-API-Compatible。

3.在弹出的添加 LLM 窗口中,配置各项参数,点击确定即可。

注意:

每次只能添加一种模型类型,即 chat 和 embedding 模型不能同时添加。

如需添加不同类型模型,可完成一种模型的添加后,选中相应的模型供应商后,点击添加模型,进行再一次的添加。

模型类型:根据待添加的模型,选择相应的类型。若添加 DeepSeek-R1 模型则选择 chat,若添加基石智算平台上的 bce-embedding-base_v1 模型则选择 embedding。

模型名称:填写待添加模型的名称即可,若需使用平台内其他模型,用户仅需在智算平台的在线推理服务页面,复制得到相应模型名称即可。

基础 url:直接填写即可。

API-Key:用户在获取 API 密钥中复制得到的完整 API 密钥,需根据实际情况进行修改。

最大 token 数:根据所选择模型支持的最大数量填写。

其他参数,根据实际情况设置或保持默认即可。

步骤三:创建知识库

1.在顶部导航栏中,选择知识库页签,点击创建知识库,在弹出提示窗口中,输入名称,点击确定即可。

2.进入知识库配置页面,设置各项参数,点击确定。

知识库名称:用户自定义。

文档语言:本实践中选择中文。

嵌入模型:选择前文也成功添加的 embedding 类型的模型。

解析方法:根据实际需要选择相应的解析方法即可。

其他参数:根据实际情况进行设置或保持默认即可。

3.在新建的知识库页面,点击左侧导航栏中的数据集,点击右侧新增文件,在弹出的上传文件窗口中,选择本地文件,点击确定。

4.等待文档上传完成,点击目标文件所在行的开始按钮,进行解析。

5.待解析成功后,用户即可查看分片情况。

步骤四:构建应用

1.在顶部导航栏选择聊天页签,并点击新建助理。

2.在聊天配置页签中,完成助理设置各项参数的配置,点击确定。

助理姓名:用户自定义。

设置开场白:用于设置聊天助理回复问题时的首句话,用户自定义。

知识库:选择前文新建的知识库即可。

其他参数,用户根据实际情况进行修改或保持默认即可。

3.进入提示引擎设置页签,配置更多信息,此配置为可选项,用户可根据实际情况进行修改或保持默认,配置完成后,点击确定。

4.进入模型设置页签,模型参数选择前文中添加的大语言模型,其他参数根据实际情况修改或保持默认,点击确定。

5.返回聊天页面,选择新建的聊天助理,点击 + ,发起新的聊天窗口,即可进行对话。

THE END
广告、内容合作请点击这里 寻求合作
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表 的观点和立场。

相关热点

相关推荐

1
3
Baidu
map