RAGFlow中配置MaaS API使用指導(dǎo)

11 RAGFlow 中配置 MaaS 模型服務(wù)使用全流程：

1.1 RAGFlow 平臺部署

方式 1-直接訪問 RAGFlow 官方 SaaS 服務(wù)（需翻墻）：RAGFlow

方式 2-Docker Compose 方式部署：見官方 Github 倉庫：https://github.com/infiniflow/ragflow

1.2 MaaS 模型 API 接入 RAGFlow

1）MaaS 控制臺創(chuàng)建 API Key：

-訪問 MaaS 控制臺：點此訪問

-在 MaaS 左側(cè)導(dǎo)航欄中，選擇“鑒權(quán)管理”。

-在“鑒權(quán)管理”頁面，單擊“創(chuàng)建 API Key”，填寫描述信息后，單擊“確認(rèn)”會返回“您的密鑰”，請復(fù)制保存密鑰，單擊“關(guān)閉”后將無法再次查看密鑰。（注：最多支持創(chuàng)建 5 個密鑰，密鑰只會在新建后顯示一次，請妥善保存。當(dāng)密鑰丟失將無法找回，請新建 API Key 獲取新的訪問密鑰。）

2）選擇要接入的模型服務(wù)

預(yù)置服務(wù)接入：

-點擊控制臺左側(cè)“模型部署”，找到想要使用的模型服務(wù)后點擊“領(lǐng)取”

-領(lǐng)取后找到已領(lǐng)取額度的模型服務(wù)，然后點擊 “調(diào)用”；

-在右側(cè)彈出界面中，可以查看到調(diào)用該服務(wù)需要的基礎(chǔ) API 地址和模型名稱信息

自部署“我的服務(wù)”接入：

在“模型部署-我的服務(wù)”頁簽，狀態(tài)為運行中的模型服務(wù)操作一欄點擊“更多”中的“調(diào)用”；在右側(cè)彈出界面中，可以查看到調(diào)用該服務(wù)需要的基礎(chǔ) API 地址和模型名稱信息

3）RAGFlow 新增模型供應(yīng)商

進(jìn)入 RAGFLow 平臺界面，點擊右上角頭像后點擊左側(cè)導(dǎo)航欄中的“模型提供商頁簽”，找到“OpenAI-API-Compatible”供應(yīng)商點擊“添加模型”

4）MaaS 模型服務(wù)配置

在彈出的添加 LLM 彈窗中填入如下信息：

-模型類型：chat

-模型名稱：MaaS 服務(wù)調(diào)用界面顯示的模型名稱

-基礎(chǔ) Url:之前步驟中 MaaS 服務(wù)的基礎(chǔ) API 地址，需要去掉地址尾部的“/chat/completions” 后填入

-API Key:之前步驟中創(chuàng)建的 API Key

-最大 token 數(shù)：各預(yù)置服務(wù)支持的最大 token 數(shù)見下表

5）修改系統(tǒng)模型設(shè)置

在模型供應(yīng)商界面點擊“系統(tǒng)模型設(shè)置”，將聊天模型設(shè)置為剛配置好的 MaaS 模型。嵌入和 Rerank 模型可使用系統(tǒng)預(yù)置的。

1.3 RAGFlow 中使用接入的 MaaS API 進(jìn)行知識庫問答

1）知識庫創(chuàng)建

頂部切換到“知識庫”頁簽，點擊“創(chuàng)建知識庫”，在知識庫的詳情頁面配置頁簽可進(jìn)行文檔解析、文檔切分等規(guī)則的配置

2）上傳文檔

-在知識庫的“數(shù)據(jù)集”頁簽中，點擊“新增文件”-“本地文件”

-彈窗中上傳需要進(jìn)行問答的知識文檔

-上傳完成后點擊動作中的“運行”按鈕，當(dāng)解析狀態(tài)為已完成時，則知識庫已可以用于進(jìn)行問答

3）創(chuàng)建助理

在“聊天”頁簽點擊“新建助理”，自定義姓名后選擇之前步驟中創(chuàng)建好的知識庫

4）與助理進(jìn)行文檔問答

選擇創(chuàng)建好的 AI 助理，點擊旁邊的藍(lán)色加號即可開始進(jìn)行文檔問答，模型會基于外掛的知識庫中的內(nèi)容進(jìn)行問題答復(fù)；回答效果示例如下：