进阶岛 MindSearch 快速部署

随笔3个月前发布 大铭铭
45 0 0

一、任务介绍

  • 按照教程,将 MindSearch 部署到 HuggingFace 美化 Gradio 的界面,并提供截图和 Hugging Face 的Space的链接。

二、根据文档配置环境

Tutorial/docs/L2/MindSearch/readme_github.md at camp3 · InternLM/Tutorial · GitHub

2.1. 创建开发机 & 环境配置

打开codespace主页,选择blank template。

进阶岛 MindSearch 快速部署

浏览器会自动在新的页面打开一个web版的vscode。

进阶岛 MindSearch 快速部署

然后我们新建一个目录用于存放 MindSearch 的相关代码,并把 MindSearch 仓库 clone 下来。在终端中运行下面的命令:

mkdir -p /workspaces/mindsearch
cd /workspaces/mindsearch
git clone https://github.com/InternLM/MindSearch.git
cd MindSearch && git checkout b832275 && cd ..

接下来,我们创建一个 conda 环境来安装相关依赖。

# 创建环境
conda create -n mindsearch python=3.10 -y
# 激活环境
source  activate mindsearch
# 安装依赖
pip install -r /workspaces/mindsearch/MindSearch/requirements.txt

2.2. 获取硅基流动 API Key

因为要使用硅基流动的 API Key,所以接下来便是注册并获取 API Key 了。

首先,我们打开 硅基流动统一登录 来注册硅基流动的账号(如果注册过,则直接登录即可)。

在完成注册后,打开 硅基流动统一登录 来准备 API Key。首先创建新 API 密钥,然后点击密钥进行复制,以备后续使用。

进阶岛 MindSearch 快速部署

2.3. 启动 MindSearch

2.3.1 启动后端

由于硅基流动 API 的相关配置已经集成在了 MindSearch 中,所以我们可以直接执行下面的代码来启动 MindSearch 的后端。

export SILICON_API_KEY=第二步中复制的密钥
source  activate mindsearch
cd /workspaces/mindsearch/MindSearch
python -m mindsearch.app --lang cn --model_format internlm_silicon --search_engine DuckDuckGoSearch

2.3.2 启动前端

在后端启动完成后,我们打开新终端运行如下命令来启动 MindSearch 的前端。

source  activate mindsearch
cd /workspaces/mindsearch/MindSearch
python frontend/mindsearch_gradio.py

前后端都启动后,我们应该可以看到github自动为这两个进程做端口转发。

进阶岛 MindSearch 快速部署

由于使用codespace,这里我们不需要使用ssh端口转发了,github会自动提示我们打开一个在公网的前端地址。

进阶岛 MindSearch 快速部署

然后就可以即刻体验啦。

进阶岛 MindSearch 快速部署

如果遇到了 timeout 的问题,可以按照 文档 换用 Bing 的搜索接口。

3. 部署到 HuggingFace Space

最后,我们来将 MindSearch 部署到 HuggingFace Space。

我们首先打开 https://huggingface.co/spaces ,并点击 Create new Space,如下图所示。

进阶岛 MindSearch 快速部署

在输入 Space name 并选择 License 后,选择配置如下所示。

进阶岛 MindSearch 快速部署

然后,我们进入 Settings,配置硅基流动的 API Key。如下图所示。

进阶岛 MindSearch 快速部署

选择 New secrets,name 一栏输入 SILICON_API_KEY,value 一栏输入你的 API Key 的内容。

进阶岛 MindSearch 快速部署

最后,我们先新建一个目录,准备提交到 HuggingFace Space 的全部文件。

①下载仓库

cd /workspaces

git clone https://huggingface.co/spaces/cgq081616/MindSearch

# 准备复制文件
cp -r /workspaces/mindsearch/MindSearch/mindsearch /workspaces/MindSearch
cp /workspaces/mindsearch/MindSearch/requirements.txt /workspaces/MindSearch
# 创建 app.py 作为程序入口
touch /workspaces/MindSearch/app.py

在最后,将 /workspaces/mindsearch/mindsearch_deploy 目录下的文件(使用 git)提交到 HuggingFace Space 即可完成部署了。注意将代码提交到huggingface space中需要配置hugginface的token。

提交到huggingface space的命令行,因为配置hugginface的token,需要修改一下git repo的地址。

  1. #修改url增加用户名和token

  2. #原来 https://huggingface.co/spaces/cgq081616/MindSearch

  3. #改为 https://cgq081616:<token>@huggingface.co/spaces/cgq081616/MindSearch

  4. git remote set-url origin https://cgq081616:<token>@huggingface.co/spaces/cgq081616/MindSearch

  5. git pull origin

  6. git add .

  7. git commit -m "mindsearch"

  8. git push origin

4、欢迎大家来体验MindSearch

https://huggingface.co/spaces/cgq081616/MindSearch

进阶岛 MindSearch 快速部署

© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...