一、嵌入式AI概述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
大部分神经网络计算都在卷积层，基本上99%都在卷积层，
在这里插入图片描述

二、模型加速

在这里插入图片描述

2-1.权值量化

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

tengine量化后的准确率之下降了1.5%。
在这里插入图片描述

2-2.网络剪枝

在这里插入图片描述
在这里插入图片描述

2-3.知识蒸馏

在这里插入图片描述
大网络是一个老师，小网络是一个学生
让小网络逐渐学习到大网络的能力

三、边缘侧的训练方法

在这里插入图片描述
在这里插入图片描述
传统的机器学习训练方法是把数据在服务器上训练好，然后使用
联邦学习是用户不把数据上传，而是把模型下发到对应的用户那里
用户训练以后用户会把训练好的模型上传到服务器，服务器再把训练的模型进行合成，再不断的更新，当训练的次数越来越多的时候，模型也会获得更强的能力。

# 人工智能
Logo
魔乐社区

魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。

更多推荐

小参数・大码力・易部署 | Qwen3.6-27B上线魔乐社区，基于昇腾的部署教程来了

继一周前模型开源发布后，千问再度开源Qwen3.6-27B —— 一个拥有270亿参数的稠密多模态模型，也是社区呼声最高的模型规格。Qwen3.6-27B 依然支持多模态思考与非思考模式，在智能体编程方面达到了旗舰级表现，全面超越前代开源旗舰 Qwen3.5-397B-A17B（总参数397B / 激活参数17B的MoE模型）。作为稠密架构，它无需MoE路由即可部署，是开发者在实用、可广泛部署规模

avatar 魔乐社区
cover

量化挑战赛冠军专访：4小时啃下W4A8量化，我靠的是这些经验

avatar 魔乐社区
cover

替你试过了，消费级显卡可以跑的开源文生图SOTA模型，顶级渲染、高密度文本绘图

avatar 魔乐社区