登录社区云，与社区用户共同成长
邀请您加入社区
使用MNN的整体流程，训练，使用训练数据训练出模型；转换，将其他训练框架模型转换为MNN模型的阶段。MNN当前支持Tensorflow(Lite), ONNX, TorchScript的模型转换；推理，在端侧加载MNN模型进行推理。准备工作：1.下载MNN;——
1.linux上编译安装mnn；2.onnx模型转mnn模型；2.在Android上使用MNN测试工具
在大语言模型(LLM)端侧部署上，基于 MNN 实现的 mnn-llm 项目已经展现出业界领先的性能，特别是在 ARM 架构的 CPU 上。目前利用 mnn-llm 的推理能力，qwen-1.8b在mnn-llm的驱动下能够在移动端达到端侧实时会话的能力，能够在较低内存（<2G）的情况下，做到快速响应。背景在大型语言模型（LLM）领域的迅猛发展背景下，开源社区已经孵化了众多优异的 LLM 模
请参阅这里的文档: 在Jetson Nano上安装MNN深度学习框架参阅这里: NVIDIA Jetson编译报错安装 MNN 2.7.1 编译不会报错版本号 2.7.1参阅这里: 求助！MNN编译错误
MNN是一个轻量级的深度神经网络推理引擎，在端侧加载深度神经网络模型进行推理预测。目前，MNN已经在阿里巴巴的手机淘宝、手机天猫、优酷等20多个App中使用，覆盖直播、短视频、搜索推荐、商品图像搜索、互动营销、权益发放、安全风控等场景。此外，IoT等场景下也有若干应用。下面就介绍如何使用MNN在Android设备上实现图像分类。
1. Pytorch分类器网络# 定义一个简单的分类网络class SimpleNet(nn.Module):def __init__(self):super(SimpleNet, self).__init__()# 三个卷积层用于提取特征# 1 input channel image 90x90, 8 output channel image 44x44self.conv1 = nn.Seque
为了应对模块化神经网络（MNN）构建中子网络的冷启动问题并提高模型的计算效率，荐读的论文开发了一种多源迁移学习模块化神经网络（MSTL-MNN）方法，如图1所示。所提出的MSTL-MNN由两个部分组成：知识驱动的多源迁移学习过程和数据驱动的微调过程。对于前者，从每个源领域中提取有效知识，并将其融合成多源领域知识，以形成目标领域的初始子网络。知识驱动的多源迁移学习策略促进了积极的迁移过程，从而提高了
本文介绍了如何将 OpenCV Mat 对象转换为 MNN::CV 中的 VARP 对象，使您能够在 MNN 框架中进行深度学习计算和图像处理操作。这在涉及多个图像处理和计算框架的项目中是非常有用的技能，帮助您更灵活地处理和转换数据。// MNN 中的 CV 相关功能，您需要引入相应的头文件，然后读取图片。
随着移动端（手机/平板等）算力、内存、磁盘空间的不断增长，在移动端部署大模型逐渐成为可能。在端侧运行大模型，可以有一系列好处：去除网络延迟，加快响应速度；降低算力成本，便于大规模应用；不需数据上传，保护用户稳私。概述为了在更广泛的设备上部署大模型，MNN团队开发了 MNN-LLM / MNN-Diffusion，合称MNN-Transformer ，支持大语言模型和文生图等AIGC模型，具有如下特
