- 经济高效:通过最小化依赖性或云计算资源来降低经常性成本
- 高效:通过利用本地计算能力，更快的处理速度和能效。
- 隐私:在设备上保留数据，增强安全性并保护用户隐私。
- 个性化:允许连续定制模型，无需外部数据传输或更新
使用场景
- 音频和语音:文本到语音转换，语音识别，机器翻译，去噪
- 图像和视频:照片分类，QR码检测，虚拟背景分割
- 传感器:键盘，身体活动检测，数字手写识别
部署过程
捕获，编译，验证，测试性能
大模型设备端部署
- 本文链接： https://github.com/blog/2024/05/22/%E5%A4%A7%E6%A8%A1%E5%9E%8B%E9%83%A8%E7%BD%B2
- 版权声明： 本博客所有文章除特别声明外，均采用 CC BY-NC-SA 3.0 许可协议。转载请注明出处！