open-web UI 类似于chatgpt, 可以私有化模型本地部署,可以实现 多模态AI聊天 , AI 翻译 , AI搜索,语音转文本, 文本转语音, 文生图,代码助手,可谓利器。
前提:安装好WSL2 ,ollama安装在WSL2里面。参考我的WSL2折腾帖子
需要 Python 3.11
安装Open WebUI:打开你的终端并运行以下命令:
pip install open-webui
启动 Open WebUI:安装完成后,使用以下命令启动服务器:
open-webui serve
安装后,可以在 http://localhost:8080 访问Open WebUI
如果有需要更新:
pip install --upgrade open-webui
点用户,打开管理员面板,选择设置–外部连接,输入Ollama API的链接地址,点击右边按钮,测试连接
然后在 设置–界面 ,选择一个默认模型
然后就可以回到新对话,进行聊天了。
ollama 0.4.0之后支持llama3.2-vision,可以识图聊天了。
在管理员面板-设置-模型,下载llama3.2-vision, 大约7.9GB
然后新建一个对话,上传图片,问它问题。
可以在工作空间编辑一下提示词,便于翻译
在聊天框输入 /xtranslate
, 在content位置输入你的文本,答复如下
由于大模型的知识都是过去时,如果询问需要最新的知识,就需要AI+搜索来实现。分两步来实现
SearXNG 是一个元搜索引擎,从多个搜索引擎中聚合结果。我们用docker方式安装
git clone https://github.com/searxng/searxng-docker.git
cd searxng-docker
用OpenSSL工具建立一组secret key,并自动填入到searxng/settings.yml
sed -i "s|ultrasecretkey|$(openssl rand -hex 32)|g" searxng/settings.yml
修改 searxng/settings.yml 成以下, secret_key已经填入,不要修改哦。
# see https://docs.searxng.org/admin/settings/settings.html#settings-use-default-settings
use_default_settings: true
server:
secret_key:"已经自动填入的secret_key"
limiter: false
image_proxy: true
ui:
static_use_hash: true
search:
safe_search:0
autocomplete:""
default_lang:""
formats:- html
- json
新建一个 searxng/uwsgi.ini文件,填入以下内容:
[uwsgi]# Who will run the code
uid = searxng
gid = searxng
# Number of workers (usually CPU count)# default value: %k (= number of CPU core, see Dockerfile)
workers =%k
# Number of threads per worker# default value: 4 (see Dockerfile)
threads
提示:请勿发布广告垃圾评论,否则封号处理!!