字节跳动开源最新GAN压缩算法,算力消耗可减少至1/46

NFT魔幻时刻:黑底白字的单词为何也能卖到上百万?

Loot,火了,以至于我终于知道Loot的中文意思是抢劫,也可以用作名词,意思是战利品。如今,Loot是一张黑底白色的“JPG”(NFT形式),在NFT交易平台Opensea上地板价为8ETH,……

鞭牛士报道 8月27日消息,字节跳动近期开源了一项代号为OMGD的压缩技术。这是字节自研的GAN(生成对抗网络)压缩算法,在保证生成效果不变的前提下,算力消耗最低可以减少到原来的1/46,相比之前业界的最佳压缩效果提升一倍多。据悉,这项技术的论文已入选国际计算机视觉会议ICCV 2021。

图:字节跳动技术团队发表的自研GAN压缩算法论文

GAN是人工智能领域重要的深度学习模型,在图像生成、音乐生成和视频生成等方面应用广泛,还可以提高图像质量,实现图像风格化、图像着色等任务。漫画特效等人们常用的短视频道具,就是通过GAN实现的。

由于GAN对计算资源和存储空间的需求巨大,模型难以直接部署到手机、Pad等移动设备上,业界一直在努力改进GAN的压缩方法。2020年,麻省理工学院、Adobe和上海交通大学的研究者们提出一种GAN压缩算法,将算力消耗成功减少到1/21。此次字节跳动提出的OMGD方法则进一步提升了压缩能力。

雷军造车:人马未齐,声势先行

小米官宣造车至今5个月有余,目前共收到2万份简历,入职300人。小米汽车的核心高管中,目前还没看到来自汽车行业的资深人士。雷军造车的人马还未完全到位,但声势已经起来了,任何风吹草动都是资本市场的焦点……

OMGD(Online Multi-Granularity Distillation)意为“在线多粒度蒸馏”。据字节跳动技术团队的论文显示,该算法能灵活地在训练过程中优化并压缩GAN模型,从而实现更好的图像效果和更少的计算成本。

测试数据表明,OMGD压缩算法对Pix2Pix和CycleGAN这两种常用的GAN解决方案效果显著。Pix2Pix和CycleGAN主要应用于图像到图像的“翻译”,比如将照片转换为绘画,对黑白图片着色等。OMGD压缩算法可使其算力消耗分别减少到原来的1/40和1/46。

目前,OMGD压缩算法已在抖音等产品中落地,为用户提供更丰富的视频创作能力。相关技术代码也已发布在开源社区,以帮助从业者提升GAN的创新和应用效率。迄今,字节跳动已开源了机器学习平台Klever、联邦学习平台Fedlearner、高性能分布式训练框架BytePS 、LightSeq推理和训练引擎等重磅项目。

节能环保是字节跳动一个重要的技术研究方向。在不久前的自然语言处理领域国际顶会ACL 2021上,字节跳动的词表学习方案获得年度唯一的“最佳论文”大奖,该论文同样极具节能价值,相比主流词表可以节约92%的算力。

OMGD论文链接:https://arxiv.org/abs/2108.06908

开源项目链接:https://github.com/bytedance/OMGD

雷军亲自带队,小米汽车成立只花了5个月

【环球网科技综合报道】9月1日早间,小米汽车迎来最新进展,小米公司发言人对外宣布,小米汽车正式完成了工商注册,命名为“小米汽车有限公司”的新公司正式成立了,该公司注册资金100亿元,雷军担任CEO并……

网络赚钱,网赚,王牌网赚,王牌蛋蛋,网赚那些事
王牌网赚-免费有奖活动分享第一平台 » 字节跳动开源最新GAN压缩算法,算力消耗可减少至1/46

提供最优质的资源集合

开通VIP 定制机器人