首页 教程 Web前端 open-web UI 实用指南

open-web UI 实用指南

open-web UI 类似于chatgpt, 可以私有化模型本地部署,可以实现 多模态AI聊天 , AI 翻译 , AI搜索,语音转文本, 文本转语音, 文生图,代码助手,可谓利器。
前提:安装好WSL2 ,ollama安装在WSL2里面。参考我的WSL2折腾帖子

安装open-web UI

使用 pip 安装

需要 Python 3.11

  1. 安装Open WebUI:打开你的终端并运行以下命令:

    pip install open-webui

  2. 启动 Open WebUI:安装完成后,使用以下命令启动服务器:

    open-webui serve

安装后,可以在 http://localhost:8080 访问Open WebUI
如果有需要更新:

pip install --upgrade open-webui

AI 聊天

点用户,打开管理员面板,选择设置–外部连接,输入Ollama API的链接地址,点击右边按钮,测试连接

open-web UI 实用指南

然后在 设置–界面 ,选择一个默认模型

open-web UI 实用指南

然后就可以回到新对话,进行聊天了。

AI 多模态聊天

ollama 0.4.0之后支持llama3.2-vision,可以识图聊天了。

在管理员面板-设置-模型,下载llama3.2-vision, 大约7.9GB

open-web UI 实用指南
然后新建一个对话,上传图片,问它问题。
open-web UI 实用指南

AI翻译

可以在工作空间编辑一下提示词,便于翻译

open-web UI 实用指南

open-web UI 实用指南

在聊天框输入 /xtranslate, 在content位置输入你的文本,答复如下
open-web UI 实用指南

AI搜索

由于大模型的知识都是过去时,如果询问需要最新的知识,就需要AI+搜索来实现。分两步来实现

搜索引擎

SearXNG 是一个元搜索引擎,从多个搜索引擎中聚合结果。我们用docker方式安装

git clone https://github.com/searxng/searxng-docker.git cd searxng-docker

用OpenSSL工具建立一组secret key,并自动填入到searxng/settings.yml

sed -i "s|ultrasecretkey|$(openssl rand -hex 32)|g" searxng/settings.yml

修改 searxng/settings.yml 成以下, secret_key已经填入,不要修改哦。

# see https://docs.searxng.org/admin/settings/settings.html#settings-use-default-settings use_default_settings: true server: secret_key:"已经自动填入的secret_key" limiter: false image_proxy: true ui: static_use_hash: true search: safe_search:0 autocomplete:"" default_lang:"" formats:- html - json

新建一个 searxng/uwsgi.ini文件,填入以下内容:

[uwsgi]# Who will run the code uid = searxng gid = searxng # Number of workers (usually CPU count)# default value: %k (= number of CPU core, see Dockerfile) workers =%k # Number of threads per worker# default value: 4 (see Dockerfile) threads

评论(0)条

提示:请勿发布广告垃圾评论,否则封号处理!!

    猜你喜欢
    【MySQL】用户管理

    【MySQL】用户管理

     服务器/数据库  4个月前  3.78k

    我们推荐使用普通用户对数据的访问。而root作为管理员可以对普通用户对应的权限进行设置和管理。如给张三和李四这样的普通用户权限设定后。就只能操作给你权限的库了。

    Cursor Rules 让开发效率变成10倍速

    Cursor Rules 让开发效率变成10倍速

     服务器/数据库  4个月前  2.18k

    在AI与编程的交汇点上,awesome-cursorrules项目犹如一座灯塔,指引着开发者们驶向更高效、更智能的编程未来。无论你是经验丰富的老手,还是刚入行的新人,这个项目都能为你的编程之旅增添一抹亮色。这些规则文件就像是你私人定制的AI助手,能够根据你的项目需求和个人偏好,精确地调教AI的行为。突然间,你会发现AI不仅能理解Next.js的最佳实践,还能自动应用TypeScript的类型检查,甚至主动提供Tailwind CSS的类名建议。探索新的应用场景,推动AI辅助编程的边界。

    探索Django 5: 从零开始,打造你的第一个Web应用

    探索Django 5: 从零开始,打造你的第一个Web应用

     服务器/数据库  4个月前  2k

    Django 是一个开放源代码的 Web 应用程序框架,由 Python 写成。它遵循 MVT(Model-View-Template)的设计模式,旨在帮助开发者高效地构建复杂且功能丰富的 Web 应用程序。随着每个版本的升级,Django 不断演变,提供更多功能和改进,让开发变得更加便捷。《Django 5 Web应用开发实战》集Django架站基础、项目实践、开发经验于一体,是一本从零基础到精通Django Web企业级开发技术的实战指南《Django 5 Web应用开发实战》内容以。

    MySQL 的mysql_secure_installation安全脚本执行过程介绍

    MySQL 的mysql_secure_installation安全脚本执行过程介绍

     服务器/数据库  4个月前  1.98k

    mysql_secure_installation 是 MySQL 提供的一个安全脚本,用于提高数据库服务器的安全性

    【MySQL基础篇】概述及SQL指令:DDL及DML

    【MySQL基础篇】概述及SQL指令:DDL及DML

     服务器/数据库  4个月前  784

    数据库是长期存储在计算机内的、有组织的、可共享的、统一管理的大量数据的集合。数据库不仅仅是数据的简单堆积,而是遵循一定的规则和模式进行组织和管理的。数据库中的数据可以包括文本、数字、图像、音频等各种类型的信息。

    Redis中的哨兵(Sentinel)

    Redis中的哨兵(Sentinel)

     服务器/数据库  4个月前  655

    ​ 上篇文章我们讲述了Redis中的主从复制(Redis分布式系统中的主从复制-CSDN博客),本篇文章针对主从复制中的问题引出Redis中的哨兵,希望本篇文章会对你有所帮助。