在数据处理与答案生成的领域内,检索增强生成(RAG)技术正逐步崭露头角,成为推动行业创新的重要力量。青云科技旗下的AI算力云服务——基石智算CoresHub,凭借其高度标准化的平台与应用集成能力,不断降低AI创新的技术门槛,为包括RAGFlow在内的多方平台提供了灵活调用模型的服务。通过将大模型与RAG技术相结合,基石智算助力用户实现更高效、智能的应用开发与部署。
以基石智算平台上的大模型服务DeepSeek-R1为例,本文将详细介绍如何在RAGFlow中添加并使用这一平台提供的模型服务。RAGFlow作为一款基于深度文档理解的开源检索增强生成引擎,旨在通过先进的深度文档理解技术,应对现有RAG技术在数据处理和答案生成方面的挑战。
RAGFlow具备多项功能特点,包括深度文档理解、可控可解释的文本切片、可视化文本处理过程、兼容多种异构数据、自动化边界的RAG工作流以及支持多种LLMs和向量模型。这些功能使得RAGFlow在处理复杂数据和生成精准答案方面表现出色。
要使用RAGFlow平台上的DeepSeek-R1模型,首先需要获取API密钥和域名。用户需注册并登录基石智算平台,在产品与服务中选择大模型服务,进入大模型服务管理页面。在API密钥管理中创建并获取API密钥,同时,在在线推理服务中查看目标模型API文档,获取API域名。
接下来,用户需要在RAGFlow系统中配置模型服务。登录RAGFlow后,选择模型供应商并点击OpenAI-API-Compatible,在弹出的窗口中输入DeepSeek-R1模型的配置参数,包括模型类型、名称、基础URL、API密钥和最大token数等。需要注意的是,每次只能添加一种模型类型,如需添加不同类型模型,需分别进行。
配置完成后,用户可以开始创建知识库。在RAGFlow顶部导航栏中选择知识库页签,点击创建知识库并输入名称。进入知识库配置页面,设置文档语言、嵌入模型、解析方法等参数。用户可以选择中文作为文档语言,并选用之前成功添加的embedding类型模型作为嵌入模型。
在知识库页面,用户可以上传本地文件并解析。选择新增文件,上传所需文档,等待上传完成后点击开始按钮进行解析。解析成功后,用户可以查看文档的分片情况,为后续应用构建提供基础。
最后,用户可以开始构建应用。在RAGFlow顶部导航栏选择聊天页签,点击新建助理。在聊天配置页签中设置助理姓名、开场白和知识库等参数。进入提示引擎设置和模型设置页签,根据实际需求配置更多信息,并选择之前添加的DeepSeek-R1模型作为聊天助理的模型。
配置完成后,用户可以返回聊天页面,选择新建的聊天助理并发起新的聊天窗口,进行对话测试。通过这一系列步骤,用户成功地在RAGFlow中添加了DeepSeek-R1模型,并构建了基于该模型的应用,实现了更高效、智能的数据处理和答案生成。