Loading...
1.部署方式大模型容器部署在910B2,dify、oneapi等部署在X86志强服务器上,实现前后端分离...
写在前面因离线环境为arm64环境,且不好复制相应信息,这边docker环境部署及之前的相应内容均在X8...
安装dockersudo apt update && sudo apt upgrade ...
环境说明Ubuntu 24.04.2 LTS (GNU/Linux 6.11.0-26-generic ...