面向边缘部署的 AI 模型优化： 量化方法与最佳实践

 

虽然在边缘设备上运行AI推理带来了诸如实时响应能力提升、不影响通信失败或延迟的推理以及降低通信成本等好处，但也存在一些问题需要考虑，比如边缘设备可安装组件的限制、可用于AI推理的模型尺寸、对推理准确性以及AI推理处理速度的担忧。
在这份白皮书中，我们将介绍常用于边缘设备AI推理处理的AI模型的量化。

【目录】
· 什么是AI模型的量化？
· 量子化
· 概念
· 量子化
· 类型
· AI模型量化
· 技巧
· 量化模型
· 应用示例
· 总结

 

下载

silex technology, Inc.

【关于个人信息的处理】

您填写的个人信息将在以下范围内使用。

 本公司除了法律认可的情况以外，没有事先得到本人的同意，不会将该个人信息用于其他目的。

 ・咨询、咨询的应对

・关于本公司产品、服务的介绍 ・关于本公司产品、服务的营销分析、企划、研究开发

 ・统计资料的制作 关于个人信息的公开、使用目的的通知、更正、停止使用、删除等请求，或者信访、咨询，请通过以下方式联系我们。

・北京希来科网络技术有限公司的管理部负责人 　

Tel : 86-010-6440-3958

下载资料时，请在表格中输入必要事项，同意【关于个人信息的处理】后点击“发送”按钮。 *项为必填项目

资料概要

pagetop