部署机器硬件情况：
内存 ：32GB
显卡 ：3060

为什么不使用docker：
1.网上教程大多以docker为主
2.安装docker的时间太长，在等待的时候顺便尝试一下不用docker的部署

1.安装Ollama

下载地址： https://ollama.com/
下载好之后默认安装即可。