让普通硬件终端也可以跑AI应用，CoCoPIE提供了全新的思路
发布时间：2021-10-29 13:31:34 所属栏目：大数据 来源：互联网
导读：AI运算的本地化仍然是绕不开的一个课题，这也是为什么众多科技公司大力投入AI专用硬件研发的原因。但如前文所说，AI专用硬件的全面普及还需要不短的时间，在此之前，唯一办法就是充分挖掘现有硬件终端本身的计算能力。 为充分挖掘主流硬件计算能力提供全新思
|
AI运算的本地化仍然是绕不开的一个课题，这也是为什么众多科技公司大力投入AI专用硬件研发的原因。但如前文所说，AI专用硬件的全面普及还需要不短的时间，在此之前，唯一办法就是充分挖掘现有硬件终端本身的计算能力。
为充分挖掘主流硬件计算能力提供全新思路
成立于2020年的CoCoPIE公司为市场提供了一种全新的解题思路——即“压缩-编译协同”。如我们所知，当下AI算法的底层基于的是深度学习，模型越大获得的准确度就越高，模型一旦被压缩，准确度就会下降，这就解释了AI应用为什么对算力有着如此高的要求。
CoCoPIE认为，在有限的硬件条件下，精准度和高效能之间并非不能取得平衡点。“我们发现，AI任务在现有硬件上表现不好的重要原因是两个——一方面，现有的AI计算中有很多冗余计算，另一方面，现有的运行引擎没能充分发挥芯片的潜力。要解决这些问题，必须打通从AI任务到芯片架构之间的直通桥梁，进行压缩和编译协同设计。”CoCoPIE公司负责人李晓峰向至顶网记者解释。
（编辑：武陵站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
