Discuz! Board 首页 资讯 查看内容

资讯

订阅

快讯|旷视天元MegEngine宣布支持CUDA INT4

2022-10-31| 来源:互联网| 查看: 317| 评论: 0

摘要: 【网易科技9月5日报道】据悉,为了推动低比特量化技术的发展,旷视天元MegEngine团队开源了INT4的源码实现,这也......
工业滤布

【网易科技9月5日报道】据悉,为了推动低比特量化技术的发展,旷视天元MegEngine团队开源了INT4的源码实现,这也让MegEngine成为首个开源CUDAINT4源码实现的深度学习框架。据介绍,MegEngine采用均匀线性量化方案,实现了非对称量化和对称量化两种INT4的数据类型,同时通过算子融合优化、kernel优化等方法,使得量化后的模型可以依然保持较高的精度以及良好的运行速度。自开源以来,MegEngine不断优化,已先后发布29个版本。(定西)

分享至 : QQ空间

10 人收藏


鲜花

握手

雷人

路过

鸡蛋

收藏

邀请

上一篇:暂无
已有 0 人参与

会员评论

关于本站/服务条款/广告服务/法律咨询/求职招聘/公益事业/客服中心
Copyright ◎2015-2020 黎城新闻网版权所有 ALL Rights Reserved.
Powered by 黎城新闻网 X1.0