菜单

Administrator
发布于 2024-08-06 / 23 阅读
0
0

在本地运行大模型

以命令行形式

系统: MacOS10.13

  1. 在ollama上下载对应系统的工具 下载链接

  2. 直接安装,有了如下命令,可执行 ollama list

  3. 在ollama的Models页签中可找到模型列表 链接

  4. 通过 ollama run qwen2:0.5b 等,安装or执行大模型

以Web端形式

  1. 有开源Web界面 open-webui ; 按要求安装;

  2. 可以点这个打开网页

  3. 提问效果


评论