拥有生成式AI模型和工具的本地代理平台,使AI对每个人都有帮助。
在安装Argo之前,请确保您的机器满足以下最低系统要求:
- CPU >= 2核心
- 内存 >= 16 GB
- 磁盘 >= 50 GB
- GPU >= 8G(适用于Mac M1及更高版本)
- 需要额外软件 Docker
- Docker >= 24.0.0
Warning
要在Docker中启用CUDA,您必须在您的Linux/WSL系统上安装 Nvidia CUDA容器工具包.
下载、双击、完成安装.
- Macos silicon(M1及以上系列):argo-1.0-osx-installer.dmg
- Windows 64bit(win 10 以上):argo-1.0-windows-x64-installer.exe
使用Docker快速开始 🐳
- 如果您使用的是 Linux,Ollama将默认包含在镜像中。
- 如果您使用的是 MacOS (Monterey或更高版本),Ollama将默认部署在主机机器上。
- 如果您使用的是 Windows,需要先自行安装docker及wsl环境,安装过程同Linux。
- 我们将使用brew来安装docker和ollama,如果出现问题,您可以自己安装 Docker 和 ollama。
Tip
推荐的Ollama模型:glm4
用于聊天,shaw/dmeta-embedding-zh
用于中文知识库。
# 使用方法:{run [-n name] [-p port] | stop [-n name] | update}
# 默认名称:argo
# 默认端口:38888
# 下载镜像,创建容器并启动
sh argo_run_docker.sh run
# 停止容器(数据将被保留)
sh argo_run_docker.sh stop
# 更新镜像到最新版本(原始镜像将被删除)
sh argo_run_docker.sh update
交流讨论:
- discord: https://discord.gg/79AD9RQnHF
- 微信群:
一起携手让Argo越来越好!💪