在高速网络设备中插入轻量级的优化代码,使得KAUST领导的合作将并行化计算系统的机器学习速度提高了五倍。 这种 "网内聚合 "技术是与英特尔、微软和华盛顿大学的研究人员和系统架构师共同开发的,它可以利用现成的可编程网络硬件提供显著的速度提升。
人工智能(AI)之所以能够拥有如此强大的 "理解 "和与世界互动的能力,其根本的好处是机器学习步骤,即使用大量标记的训练数据集来训练模型。训练AI的数据越多,当暴露于新的输入时,模型就可能表现得越好。
最近人工智能应用的爆发主要是由于更好的机器学习和使用更大的模型和更多样化的数据集。然而,执行机器学习计算是一项艰巨的任务,并越来越依赖于并行运行学习算法的大型计算机阵列。
"如何大规模地训练深度学习模型是一个非常具有挑战性的问题,"KAUST研究团队的Marco Canini说。"人工智能模型可能由数十亿个参数组成,我们可以使用数百个处理器,这些处理器需要高效地并行工作。在这样的系统中,增量模型更新过程中处理器之间的通信很容易成为主要的性能瓶颈。"
该团队在 英特尔 旗下的Barefoot Networks公司开发的新网络技术中找到了潜在的解决方案。
"我们使用Barefoot Networks新的可编程数据平面网络硬件来卸载分布式机器学习训练过程中执行的部分工作,"后来加入英特尔Barefoot Networks团队的KAUST校友Amedeo Sapio解释道。"使用这种新的可编程网络硬件,而不仅仅是网络来移动数据,意味着我们可以沿着网络路径进行计算。"
该团队的SwitchML平台的关键创新在于,在机器学习过程的模型更新阶段,允许网络硬件在每个同步步骤中执行数据聚合任务。这不仅卸载了部分计算负载,还大大降低了数据传输量。
"虽然可编程开关数据机可以非常快速地进行操作,但它能做的操作是有限的,"Canini说。"因此,我们的解决方案必须对硬件足够简单,但又必须足够灵活,以解决板载内存容量有限等挑战。SwitchML通过共同设计通信网络和分布式训练算法来解决这一挑战,与最先进的方法相比,实现了高达5.5倍的速度提升。"
【来源:cnBeta.COM】
相关下载 |
渐进式Web应用程序(PWA)通过新功能获得了更多类似于应用程序的功能,该功能现在唤起了您将从应用程序商店中识别的安装流程。回顾一下,PWA是一种类似于本机应用程序的网络详情>>
国风新仙侠网游《古剑奇谭网络版》即将正式上线海外平台。 网元圣唐将与欧洲知名游戏发行商Gameforge展开合作,将旗下上海烛龙自主研发的MMORPG《古剑奇谭网络版》于2021年详情>>
国风新仙侠网游《古剑奇谭网络版》即将正式上线海外平台。网元圣唐将与欧洲知名游戏发行商Gameforge展开合作,将旗下上海烛龙自主研发的MMORPG《古剑奇谭网详情>>
国风新仙侠网游《古剑奇谭网络版》即将正式上线海外平台。 网元圣唐将与欧洲知名游戏发行商Gameforge展开合作,将旗下上海烛龙自主研发的MMORPG《古剑奇谭网络版》详情>>
炉石传说在本周迎来了商店更新以及对新版本问题的优化,很多玩家都表示在游戏过程中遭遇了【无法连接,请检查网络连接】的报错,不仅仅发生在开始游戏详情>>
风动心弦,莫负春光!《古剑奇谭OL》春季版本“风动心弦”现已上线!——心弦争歌再临,更有全新列传更新,还有精彩踏青活动等你参与!“森罗梦境”中的景致光怪陆离,详情>>
《三国群英传2》网络版是一款以三国时期为背景的角色扮演类网游,游戏中还原了诸多历史名将和数百特色兵种,展现出了一个原汁原味的三国世界! 在即将推出的150级版本“详情>>
原标题:宝甲凝夜光《三国群英传2》网络版最新防具套装展示 宝甲凝夜光《三国群英传2》网络版最新防具套装展示 《三国群英传2》网络版是一款以三详情>>
国新办在举行第四届数字中国建设峰会新闻发布会上,国家互联网信息办副主任杨小伟介绍了“十三五”期间数字中国建设的具体情况,以及“十四五”期间详情>>
最新发布的《 IDC 全球网络安全支出指南 , 2021V1 》中,IDC 预测 2021 年全球网络安全相关硬件、软件、服务投资将达到 1,435 亿美元 ,相比 2020 年增长 8.7%。 IDC 详情>>
格斗游戏由于其对低延迟的高要求,网络对战部分的设计相当具有挑战性,目前有采用基于延迟的网络代码和回滚型网详情>>
久游常有的事,我现在就是的,我除了半夜玩不会卡白天还差劲,特别是晚上五六点的时候,打打怪和人都不动了,过一会就网络连接中断,六字真言一详情>>
过去的2020年,是中国5G的大规模建设之年,全年新建5G基站超60万个。作为“新基建”的排头兵,5G拥有宏伟目标,成为经济社会的信息基础设施,驱动全行业数字化转型。详情>>
中国联通日前正式公布2020年网络安全类平台项目招标结果显示,3个标包共有新华三、迪普科技、天融信等9家企业入围。 按照此前公告,标包1是资产安全管理平台和网络安详情>>
《暗黑破坏神:不朽》、《英雄联盟手游》正式出现在过审名单当中。除此之外,还有Switch平台游戏,《雷曼:传奇》和详情>>
据“网信中国”微信公众号发布的消息,日前,中央网信办召开全国网信系统规范网络传播秩序工作视频会议,研究部署规范全平台网络传播秩序工作,将重点整治“详情>>
据网信中国官方,中央网信办于1月 29 日召开全国网信系统规范网络传播秩序工作视频会议,会上研究部署规范有关于全平台网络传播秩序的工作。此次会议上,多位网信办负责人、央详情>>
1月27日,国家新闻出版署放出《2021年1月份国产网络游戏审批信息》,本次共84款游戏过审,其中移动游戏、移动—休闲益智各42款。详情>>
在 Global Ventures 和 STV 的领投下,总部位于迪拜的网络安全初创企业 SpiderSilk,已经拿到了 225 万美元的 A 轮融资。 过去两年,SpiderSilk 披露了一系列大型数据泄露详情>>
原标题:2021年网络游戏平台有哪些?OB网络游戏平台推荐经典游戏 《OB游戏》 《OBgame》是一款魔幻题材即时战斗网页游戏,延续传奇经典,并融入了最新详情>>
大富翁棋牌舊版是一款有著頂尖的防作弊技術,為遊戲環境帶來更強效的公平公正性。在這裏擁有著豐富多樣的棋牌玩法,並且每周還會不定時更新一些全新的玩法免費提供,給大家帶來更多的棋牌樂趣,等你來下載哦!详情>>
互联网在为日常生活带来各种便利的同时,也伴随诸多安全问题。新型网络犯罪如何定性,个人隐私如何保护,面对人工智能人类何去何从,如何规范互联网金融秩序……围绕这些话题,众多专详情>>
网络棋牌是一款贴心的棋牌游戏,客服全天在线,快速帮助你解决问题,每天都有超值礼包免费领取,多种不同模式的竞技场任你选择,感兴趣的小伙伴不要错过,快来下载迅达棋牌体验吧!详情>>
网络棋牌里面有非常多的活动,玩家可以积极的参与,展示自己的游戏技术,领取丰富的游戏福利。游戏里面还有海量的玩家实时在线竞技,根本不需要担心会有人机对战的情况发生。里面还有超多的好友房,免费提供给玩家使用。详情>>
網絡棋牌是一款很靠譜的棋牌平台,客服全天都在線為你提供服務,而且匹配的玩家都是真人,遊戲包含了鬥地主,搶莊牛牛,捕魚等多種玩法類型,而且每天簽到都能領取金幣,每天都會更新玩家排行榜,榜上有名的玩家可以享受平台贈送的最高百元金幣獎勵。详情>>
網絡棋牌是一款非常受歡迎的手機棋牌遊戲,今天為大家帶來的是官網完整版本,玩家們可以在這裏面享受到非常全面的棋牌遊戲玩法,線上擁有著上百種的棋牌遊戲玩法,從撲克到街機,任何玩法應有盡有,大家可以盡情的在這遊玩享受,並且網絡棋牌還准備了許許多多的禮包內容,大家登錄上線就能領金幣,非常的給力哦,心動的小夥伴們,快來下載網絡棋牌試試看吧!详情>>
网络棋牌深受玩家的喜爱,完善的游戏内容,还为玩家带来超多福利,斗地主、抢庄牛牛、捕鱼畅玩不停,游戏自带等级系统,需要不断对局获取经验,随着等级的提升,能玩的游戏也越多,让玩家更有对局的动力,快点下载吧。 详情>>
网络棋牌最新版是一款可以赚钱的手机娱乐休闲游戏,这里有非常多特色经典的棋牌玩法模式,汇聚了全国各地最火的玩法规则,趣味的方言配音,顺畅的游戏体验感,完美移植了线下棋牌室的玩法,带给玩家真实的游戏体验,还有真人美女24小时全天在线解答,喜欢的话就赶快下载安装网络棋牌官方网站完整版游戏吧!详情>>
網絡棋牌是一款經典好玩的棋牌遊戲,網絡棋牌支持鬥地主、牛牛、金花、捕魚等玩法,玩家可以隨時隨地約好友創建組隊,精美的遊戲畫面,炫酷的特效帶給大家暢快的遊戲體驗,操作簡單易上手,隨時約牌更暢快,歡迎下載。详情>>
《網絡棋牌》是一款玩法非常豐富的棋牌遊戲,遊戲將多種趣味性模式全部彙聚起來,玩家可以自由選擇,而且遊戲中玩家也可以邀請自己的好友一起組隊,一邊語音一邊遊戲的體驗非常棒,歡迎體驗!详情>>
網絡棋牌這是一款福利超度的棋牌遊戲,遊戲裏彙聚了超多火爆的玩法哦,讓你時刻感受棋牌的魅力所在,遊戲裏多個不同風格的主題,切換一個風格換一個不一樣的心情,遊戲裏每天都有免費的救濟金可以領取哦,玩家不用擔心自己的金幣不夠用哦,感興趣的快來紅軟網下載吧!详情>>
对于这款软件,相信广大的用户都是不会陌生得了,正如其名字一样,国寿e家网络版是由实力雄厚的国寿公司推出来的,它主要是为保险业务员而推出的,帮助了员工在工作效率上的大详情>>
说起收音机,可能很多人的脑海当中就会不由自主的联想到有机械器件构成的实体收音机。随着互联网的迅猛发展,网络收音机的出现,很好的替代了实体的收音机,用户通过它可以详情>>
《Crypto: Against All Odds》是一款Pictagor制作Pictagor Games发行的策略塔防+兵种个性化+基地搭建游戏,在《Crypto: Against All Odd详情>>
1月4日,国家新闻出版署放出<2020年12月份国产网络游戏审批信息>,本次共89款游戏过审,其中包含多益网络《梦想世界3》、边锋网络《冰火塔防》、心动《骰子元素师》、完美详情>>
游族网络今日发布公告称,公司董事长兼总经理、实际控制人、控股股东林奇因病救治无效于2020年12月25日逝世。以下为游族官方发布的公告全文: 游族网络股份有限公司详情>>
1993年,美国麻省理工学院媒体实验室创办人,被称为数字时代三大思想家之一的尼古拉·尼葛洛庞帝在给《连线》写专栏时注意到,有许多十几岁的青少年给父母订阅这本杂志作为圣诞详情>>
熟悉好易网络电视的用户都十分清楚,这是一款真正的绿色安装软件,它没有任何的捆绑软件和插件广告,将pps、pplive等播放前的广告进行了有效的去除,用户在使用它之前,完全详情>>
网络ms是什么意思啊产品型号:戴尔 外星人m17、惠普 暗夜精灵7系统版本:Windows7、Windows10软件版本:null网络中的ms指的是毫秒,ms数值则代表了网络的延时情况,如果m详情>>
《三国群英传2》网络版作为经典策略单机游戏《三国群英传》系列的网游分支,在保留了系列作部分策略要素的同时还可以参与无等级、无职业限制的激情国战。作为一款可以详情>>