MNNChat是移动端本地AI工具，和GoogleAIEdgeGallery功能相近。它可以在手机上部署AI模型，不用联网也能使用。软件能调动手机CPU和GPU，兼容Qwen、Llama、百川等多款模型。你可以用它对话聊天、生成图文、制作视频、写代码，不管是学习还是日常处理一些小任务都很合适。

MNNChat使用简介

1、下载安装应用后，您可以在模型市场界面中浏览所有支持的模型。

2、然后选择你需要的ai大模型下载。

3、下载好后就可以直接在应用内与模型交互。

4、此外，您可以通过侧边栏访问聊天历史，轻松查看和管理之前的对话记录。

MNNChat热门FAQ

1、模型加载失败怎么办？

确认手机剩余存储空间充足，重新下载模型文件，重启应用再尝试加载。

2、离线使用时AI回复很慢？

本地运行依赖手机处理器性能，可以切换体积更小的轻量化模型。

3、部分模型无法导入？

检查模型文件格式是否匹配，软件只支持兼容的模型类型。

4、生成图文或者视频报错？

部分模型不支持图文、视频生成功能，更换对应能力的模型即可。

5、汉化界面出现乱码？

重新安装汉化版本，或者尝试清除应用缓存后重启软件。

MNNChat功能特点

1、支持本地部署AI模型，无需网络就能使用各类AI功能。

2、可调用手机CPU和GPU，充分发挥设备性能运行模型。

3、兼容多款主流大模型，包含Qwen、Llama、百川、Yi等。

4、功能丰富，支持AI对话、图文生成、视频制作、代码编写。

5、简体中文汉化界面，操作上手简单，满足学习和工作需求。

MNNChat更新日志

v0.8.2.2版本

1、更新亮点：

刷新内置 MNN runtime，带入最新的 CPU LinearAttention 与 Arm82 fp16 优化路径。

提升思考模式提示词和数组拼接场景下的 tokenizer 与模板渲染兼容性。

为 OpenCL 和 Metal 执行路径补充 TopKV2 后端支持。

2、问题修复：

修复 Android 点击 Add Local Model 时的崩溃问题。

避免模型加载时因 mmap 权重部分初始化而导致的死锁问题。

对同模型启动 API 服务时复用已加载 runtime session，避免额外重载导致的卡死或崩溃。