Skip to content

Latest commit

 

History

History
201 lines (137 loc) · 6.15 KB

README_CN.md

File metadata and controls

201 lines (137 loc) · 6.15 KB
Raw

Search with AI

English 中文

更新时间: 2024/09/17

基于AI大语言模型的对话式搜索引擎，基于Node.js&Vue3。适合新手入门AI大模型开发参考:)，文档后有交流群二维码。 Live Demo

仓库地址：GitHub仓库、 Gitee仓库

功能说明

  • 内置主流的LLM接口支持，如OpenAI、Google、通译千问、百度文心一言、Lepton、DeepSeek。
  • 内置搜索引擎支持，如Bing、Sogou、Google、SearXNG（免费开源）。
  • 支持ChatGLM Web搜索插件 [作为搜索引擎,目前免费]。
  • 简洁的搜索对话Web界面。
  • Web界面支持暗色模式。
  • Web界面支持移动端。
  • 支持搜索引擎切换、AI模型切换。
  • 支持本地大模型（基于Ollama、lmStudio）。
  • 支持多语言(i18n)。
  • 支持根据结果上下文继续问答。
  • 支持缓存结果、强制刷新结果。
  • 支持图片搜索。

使用 Docker 安装部署

文档后面有微信群二维码，有疑问也可以加入群交流。

注意：使用SearXNG搜索引擎请确保你的网络能正常访问到Google

安装Docker.

1、克隆仓库

git clone https://github.com/yokingma/search_with_ai.git
cd search_with_ai

2、编辑 .env.docker

在此处配置你的KEY[如 OpenAI、Google、DeepSeek、阿里云、百度、腾讯]即可。

# 示例
# openai KEY, docker compose 默认带了FreeGPT35，如果你没有自己的Key, 这里保持默认
OPENAI_KEY=#your key
# openai Base Url, 
OPENAI_PROXY_URL=#OpenAI Base Url, 或者你的OneAPI接口也是支持的。
...
# 如果需要在docker中访问本地部署的Ollama, 你可能不用改变这个。
OLLAMA_HOST=http://host.docker.internal:11434

# docker compose 默认带了SearXNG免费聚合搜索, 默认不需要修改
SEARXNG_HOSTNAME=http://searxng:8080

3、 运行docker-compose.

默认包含了 SearXNG，只需要运行：

docker compose up -d

浏览器访问 http://localhost:3000

4、 更新

  1. 运行 git pull （注意保存你的.env设置）

  2. 删除旧版本的镜像

  3. 执行 docker compose down

  4. 执行 docker compose up -d

大模型支持

基于在线大模型的API（需要Key）

  • OpenAI ChatGPT
  • Google Gemini
  • Lepton
  • 阿里云通译千问
  • 百度文心一言
  • 零一万物
  • 月之暗面
  • DeepSeek
  • ChatGLM
  • 腾讯混元
  • 本地大模型支持：Ollama、LMStudio

如果有新的模型项目暂时不支持的，可以修改(/backend/utils/constant.ts)文件，添加新的模型名称即可。

搜索引擎配置

内置了搜索引擎服务：Bing、Sogou、Google、SearXNG。

推荐使用SearXNG (免费开源，不需要KEY)

安装 SearXNG ，推荐用Docker部署 searxng-docker

SearXNG 是一款免费的互联网元搜索引擎，它集合了来自多个搜索服务和数据库的结果。该服务不会追踪或构建其用户档案，为寻求在线匿名性的用户提供保护。此外，SearXNG 还可通过 Tor 网络来实现在线匿名访问。

安装 SearXNG 时，默认情况下唯一处于激活状态的输出格式是 HTML 格式。若要使用 API，您需要启用 json 格式。可以通过在 settings.yml 文件中添加以下行来实现：

search:
    formats:
        - html
        - json

并且需要设置limiter为false:

server:
   limiter: false # default is true

也可以设置SEARXNG_HOSTNAME (编辑.env文件):

# SEARXNG_HOSTNAME=<host>

Bing搜索

如果要使用必应搜索，需要注册并订阅Bing搜索服务，获取必应订阅密钥(key)。

Bing搜索接口是收费的，但是每月有1000次免费调用额度。

Google搜索

如果要使用谷歌搜索引擎， 需要注册谷歌搜索API服务，每天有100次免费搜索额度。

Sogou搜索

内置的Sogou搜索并非直接调用API实现，只是通过简单的网页爬取获取搜索结果。

内置的Sogou搜索本地测试用（只是简单的网页爬取），会触发人机验证，遇到不返回参考资料的情况可以手动打开sogou.com随便搜索关键词，根据提示手动验证一下解除。

ChatGLM Web Search插件

[2024/09/17] 新增智谱AI的ChatGLM Web Search插件，作为中文搜索引擎使用。

智谱AI的glm-flash目前免费，其Web Search插件目前也是免费，基于结合这两者新增了ChatGLM作为免费的中文搜索引擎。

普通安装部署

需要：

Node.js >= 20

国内用户推荐使用阿里云通译千问大模型，在阿里云模型服务灵积注册可以获取密钥(key)，通译千问部分API使用是免费的(qwen-max、qwen-max-1201、qwen-max-longcontext)，除了longcontext模型其他限制是60次请求/分钟。

  • 服务端
yarn install && yarn run build
  • 前端页面
cd web && yarn install && yarn run build
  • 配置 (.env)

各项配置在.env文件中，请按照需求配置即可。

.env.docker 是docker部署使用到的配置文件。

  • 启动 在项目根目录中执行:
yarn run start
  • 更新 在项目根目录执行
git pull
yarn install
cd web && yarn install && yarn run build

启动成功后可以在浏览器打开http://localhost:3000 即可使用。

部署案例展示