环境说明

  • windows11家庭版
  • 8G运行内存
  • 可用硬盘30G

 ollama支持的大模型列表

操作步骤

  1. 去官网下载ollama.exe
  2. 打开下载目录文件夹,在文件夹中使用cmd命令窗口执行以下代码,将ollama安装在D盘(不建议安装在C盘-因为默认是C盘)
    OllamaSetup.exe /DIR="D:\Ollama"
  3. 打开powershell.exe(没有就自己装,这个不难)
  4. 设置大模型安装路径(因为我想安装在D盘)
    环境变量设置
    1. 保存设置

      • 点击“确定”保存环境变量。

      • 关闭所有设置窗口。

    2. 添加新的环境变量

      • 在“环境变量”窗口中,点击“新建”按钮。

      • 变量名OLLAMA_MODELS

      • 变量值:指定模型存储路径,例如 D:\Ollama\Models

    3. Win + X 键,选择“系统”。

      • 在系统设置中,点击“高级系统设置”。

      • 在“系统属性”窗口中,点击“环境变量”按钮。

  5. 重开命令窗口(必须重新打开命令行窗口,并且重新启动ollama服务,最简单的方式就是点击图标退出重开,按下win键可以看到最近安装的ollama图标)
  6. 执行命令安装大模型(注意此步骤,因为我要安装0.5b小参数大模型)
    # 安装llama3.2 
    # ollama run llama3.2
    
    # 安装qwen2:0.5b参数大模型
    ollama pull qwen2:0.5b
    # 卸载
    ollama rm qwen2:0.5b
  7.  去新的目录里查看是否有文件(这里以D:\Ollama\Models目录举例)

    我这里有新的文件,说明安装成功
  8. 运行大模型进行交互​​​
    ​​​​
    ollama run qwen2:0.5b

到这里就安装并运行成功了!(虽然大模型回答错误,但本文就此结束了

END

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐