【三步 完全离线搭建 openwebui 】

news/2024/9/30 10:18:43 标签: 语言模型, 人工智能, web
webkit-tap-highlight-color: rgba(0, 0, 0, 0);">

完全离线linux 版open webui 的搭建

1.在具有网络连接的环境中下载whl

在有网络的环境,使用pip download可以保存所有的依赖包,可以使用-i 指定清华的镜像源加速下载速度。

# 命令:
pip download <package_name> --only-binary=:all: --wheel --platform <platform_tag> --python-version <python_version>
# 示例
pip download -d e:\temp\openweuiwhi_linux open-webui --only-binary=:all:  --platform linux_x86_64 --python-version 311 -i  https://pypi.tuna.tsinghua.edu.cn/simple

注意:如果windows要下载linux的还要指定系统 --platform
下图是我依赖截图其中几个,我下载后依赖了200多个其他包:
在这里插入图片描述
下载的时候要注意,两个环境python版本最好一致,因为很多包是要求python版本的
在这里插入图片描述
比如这里面的311就要求是Python3.11版本

2.拷贝whl 包到无网络环境安装

进入到上述依赖包的文件夹,执行安装,如下:

pip.exe install --no-index --find-links . .\open_webui-0.3.28-py3-none-any.whl

该命令会自动的寻找openwebui 在当前路径下的依赖安装

2.1安装中的小问题

安装的时候报错版本不符合要求,升级setuptools和pip(pip版本比较低的时候,无法安装其中的tar.gz的文件)

pip install setuptools-75.1.0-py3-none-any.whl
python.exe -m pip install pip-24.2-py3-none-any.whl

如果中间遇到某一个tar.gz的包无法安装成功,可以解压缩,进入到解压缩后的目录,用包中的setup单独安装下:

python.exe setup.py install

然后重新安装,出现如下就是安装成功了
在这里插入图片描述
pip list也可以看到安装的open webui了
如果open-webui 在powershell找不到,可以加到环境变量中:
在这里插入图片描述

3.启动

open-webui.exe serve

3.1 启动中的问题

启动的时候肯定会报错,如下:
在这里插入图片描述
openwebui默认需要联网下载模型,联网环境连不上hugging face,而我们完全离线的环境连网络都上不去,解决方法如下:

  • 提前下载好模型
    官网:https://hf-mirror.com/sentence-transformers/all-MiniLM-L6-v2/tree/main
    在这里插入图片描述

  • 修改openwebui的代码,启动时从本地环境加载模型 具体修改的位置可以参考报错,比如加载模型的时候在下面报错了:

在这里插入图片描述
在上面提示的路径找到utils.py,打开这个文件,大致看一下,修改这行为固定地址:

model_repo_path = "D:\\install\\sentence-transformers\\all-MiniLM-L6-v2"

在这里插入图片描述
然后再次启动,出现如下,就是安装成功了
在这里插入图片描述
默认的运行端口是 8080,所以启动后,浏览器输入127.0.0.1:8080,就可以使用openwebui了

在这里插入图片描述
点注册,输入账号和密码,第一个账号默认为管理员,open web ui就可以使用了


http://www.niftyadmin.cn/n/5684885.html

相关文章

【linux 多进程并发】linux进程状态与生命周期各阶段转换,进程状态查看分析,助力高性能优化

0102 Linux进程生命周期 ​专栏内容&#xff1a; postgresql使用入门基础手写数据库toadb并发编程 个人主页&#xff1a;我的主页 管理社区&#xff1a;开源数据库 座右铭&#xff1a;天行健&#xff0c;君子以自强不息&#xff1b;地势坤&#xff0c;君子以厚德载物. 文章目录…

【ecology】独立选择框\公共选择框表

独立选择框\公共选择框表 独立选择框 workflow_SelectItem 公共选择框 select * from mode_selectitempage select * from mode_selectitempagedetail

SpringBoot3+Druid YAML配置

背景 Druid连接池是阿里巴巴开源的数据库连接池项目。Druid连接池为监控而生&#xff0c;内置强大的监控功能&#xff0c;监控特性不影响性能。功能强大&#xff0c;能防SQL注入&#xff0c;内置Loging能诊断Hack应用行为。现在已经SpringBoot3&#xff0c;Druid的配置也需要随…

SpringCloud 2023 LoadBalancer介绍、使用、获取服务列表原理、负载均衡算法

目录 1. 介绍2. 使用3 获取服务列表原理4. 负载均衡算法 1. 介绍 功能: 提供客户端的负载均衡算法&#xff0c;将请求均摊到多个服务器上。属于客户端负载均衡(Nginx属于服务端负载均衡)&#xff0c;会将服务列表缓存到JVM本地&#xff0c;然后客户端自己选择请求服务器支持S…

多处理器的概念与对比

SISD, SIMD, MISD, 和 MIMD 代表了并行计算的四种基本架构&#xff0c;它们描述了处理器如何处理指令和数据。 理解这些架构的关键在于区分指令流&#xff08;Instruction Stream&#xff09;和数据流&#xff08;Data Stream&#xff09;是单一的还是多重的。 1. SISD (Singl…

Web APIs 3:事件流、事件委托

Web APIs 3&#xff08;事件流、事件委托&#xff09; 1.事件流 事件流&#xff1a;事件完整执行过程中的流动路径捕获阶段&#xff1a;从DOM根元素开始去执行对应的事件&#xff08;从外到里&#xff09; DOM.addEventListener(事件类型&#xff0c;事件处理函数&#xff0…

redis和mysql端口修改

因为之前有过被删库勒索的情况所以&#xff0c;今天记录一下怎么修改端口。 redis 要修改Redis的端口&#xff0c;您需要编辑Redis配置文件&#xff0c;通常名为redis.conf。 找到Redis配置文件&#xff1a; 在Linux系统上&#xff0c;该文件通常位于/etc/redis/redis.conf…

生产环境升级mysql流程及配置主从服务

之前写到过mysql升级8.4的文章, 因此不再介绍mysql的安装过程 避免服务器安装多个mysql引起冲突的安装方法_安装两个mysql会冲突吗-CSDN博客 生产环境升级mysql8.4.x流程 安装mysql 参考之前文章: 避免服务器安装多个mysql引起冲突的安装方法_安装两个mysql会冲突吗-CSDN博客…