钓友宝(微信小程序):一款专门为钓友开发的免费分享钓点地图与实时天气的软件,地图中标记了所有野钓、钓场、公共水域等的精确位置,支持导航、预测钓鱼位置的鱼等功能。
大模型Deepseek、ChatGPT、豆包、文心一言等AI交流、探讨、获取资料,公众号回复加群

一:Ollama

🦋 下载 Ollama

🧑‍💻 https://ollama.com/

Ollama 是一个用于管理和部署机器学习模型的工具。

目前 Ollama 支持 macOS、Linux、Windows,选择相应的系统下载即可。

在这里插入图片描述

🦁 💻 安装后运行软件,在任务栏确认在右上角出现这只 小羊驼🦙 图标

在这里插入图片描述

🦋 选择模型

🧑‍💻 点击Search models 搜索框,第一条就是 deepseek-r1 模型。

在这里插入图片描述

这里我们发现了多个不同大小的模型,文件大小适配不同的设备

DeepSeek R1提供多个版本,参数量越大,模型通常越强大,但也需要更多的计算资源。

比如1.5B代表有15亿个参数。

在这里插入图片描述

🎁 借助网上大佬们整理的表格供大家参考,来确认你的电脑可以运行哪个模型:

在这里插入图片描述

🦋 运行模型

运行模型很简单:确定模型后,复制这条指令到终端里

加粗样式

💻 当进度条跑满时,恭喜🎉,你的电脑已经拥有了顶级的推理能力

🦋 使用 && 测试

📚 这里我已经提前下好了,使用 ollama 提供的终端指令 ollama list 可以看我们电脑上已经部署了哪些模型,然后使用 ollama run 对应的模型 就可以了。

在这里插入图片描述

输入 /bye即可退出

在这里插入图片描述

📚 ollama 命令查看

admin@admindeMacBook-Pro ~ % ollama
Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

Use "ollama [command] --help" for more information about a command.

🧑‍💻 虽然这里终端已经可以使用了,但是还是不太方便。

  • 这里就有人要问博主了,你推荐的模型确实挺不错的,但是还是太吃操作了,有没有更加方便的使用方式呢?

  • 有的兄弟有的,像更方便的使用方式那么就是 Chatbox

二:Chatbox

🧑‍💻 浏览器搜索 Chatbox 并下载客户端或者网页版都可以

1. 设置语言为中文并保存

在这里插入图片描述

2. 点击设置选择模型为 OLLAMA API

在这里插入图片描述

为了确保可以连接到本地服务,大家按照提供的教程设置一下,不同的操作系统设置不太一样,然后选择 R1模型并保存

  • 连接到本地服务教程跳转

在这里插入图片描述

🦁 现在你就可以在 浏览器/客户端 上流畅的使用 R1 了。

🦋 创建你的专属 GPTs

🧑‍💻 点击我的搭档,创建搭档,给ai角色设定人格,你也可以选择现有的搭档,一个资深的行业专家就出现了。

在这里插入图片描述

三:共勉

😋 以上就是我对 DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具 的理解,觉得这篇博客对你有帮助的,可以点赞收藏关注支持一波~ 😉

插播一下Java精选面试题(微信小程序):5000+道面试题和选择题,包含Java基础、并发、JVM、线程、MQ系列、Redis、Spring系列、Elasticsearch、Docker、K8s、Flink、Spark、架构设计、大厂真题等,在线随时刷题!

作者:Zfox_

来源:https://blog.csdn.net/weixin_50776420/article/details/145417809

公众号“Java精选”所发表内容注明来源的,版权归原出处所有(无法查证版权的或者未注明出处的均来自网络,系转载,转载的目的在于传递更多信息,版权属于原作者。如有侵权,请联系,笔者会第一时间删除处理!

最近有很多人问,有没有读者交流群!加入方式很简单,公众号Java精选,回复“加群”,即可入群!

------ 特别推荐 ------

特别推荐:专注分享最前沿的技术与资讯,为弯道超车做好准备及各种开源项目与高效率软件的公众号,「大咖笔记」,专注挖掘好东西,非常值得大家关注。点击下方公众号卡片关注

点击“阅读原文”,了解更多精彩内容!

文章有帮助的话,点在看,转发吧!

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐