Meta正正在構(gòu)建天下上最快的野生智能超等計(jì)算機(jī),以真現(xiàn)其元宇宙大志
“Meta的正正智能宙大志AI超等計(jì)算機(jī)已完成第一階段扶植,每秒可停止50億次運(yùn)算。構(gòu)建”
做者:Claire
編輯:tuya
出品:財(cái)經(jīng)涂鴉(ID:caijingtuya)

1月24日,天下Meta公布專文先容正正在扶植的上最A(yù)I超等計(jì)算機(jī)AI Research SuperCluster(RSC)。Meta表示,野生元宇那是計(jì)算機(jī)古晨天下上最快的AI超等計(jì)算機(jī)之一,每秒可停止50億次運(yùn)算,正正智能宙大志它將減快Meta的構(gòu)建AI研討并幫閑Meta構(gòu)建元宇宙。
RSC古晨已完成第一階段扶植,天下開端應(yīng)用于練習(xí)具稀有十億參數(shù)的上最大年夜型AI模型。RSC能夠幫閑Meta的野生元宇A(yù)I研討職員構(gòu)建更好的AI模型,能夠從數(shù)萬億個(gè)示例中進(jìn)建;跨數(shù)百種分歧發(fā)言工做;無縫闡收文本、計(jì)算機(jī)圖象戰(zhàn)視頻;開辟新的正正智能宙大志減強(qiáng)真際東西等。借助RSC,構(gòu)建Meta能夠更快天練習(xí)利用多模態(tài)旌旗燈號的天下模型去肯定動(dòng)做、聲音或圖象是有害借是良性。那項(xiàng)研討將為Meta的元宇宙挨算奠定根本。
野生智能超等計(jì)算機(jī)是經(jīng)由過程將多個(gè)GPU組分解計(jì)算節(jié)面去構(gòu)建的,然后通太下機(jī)能支散布局連接那些節(jié)面,以真現(xiàn)那些GPU之間的快速通疑。古晨,RSC共有760個(gè)NVIDIA DGX A100體系做為其計(jì)算節(jié)面,統(tǒng)共有6,080個(gè)GPU。Meta傳播飽吹那應(yīng)當(dāng)能夠與勞倫斯伯克利國度嘗試室的Perlmutter開做。按照排名網(wǎng)站Top 500的數(shù)據(jù),Perlmutter是古晨運(yùn)轉(zhuǎn)中的第五強(qiáng)大年夜的超等計(jì)算機(jī)。古晨排名第一的是日本的Fugaku。跟著Meta繼絕構(gòu)建戰(zhàn)進(jìn)級體系, RSC的能力估計(jì)將進(jìn)步三倍擺布,實(shí)際上那將使RSC能夠正在將去爭奪排名第三。

Meta耐暫以去一背是野生智能研討范疇的大志勃勃的參與者。該公司以為野生智能正在元宇宙的逝世少中闡揚(yáng)著尾要感化。“我們但愿RSC能夠或許幫閑我們構(gòu)建齊新的AI體系,比方,可覺得一大年夜群人供應(yīng)及時(shí)語音翻譯,每小我皆講分歧的發(fā)言,如許他們便能夠正在研討項(xiàng)目上無縫協(xié)做或玩AR游戲一起,”Meta AI研討職員Kevin Lee戰(zhàn)Shubho Sengupta正在一篇專文中寫講。“終究,RSC所做的工做將為構(gòu)建下一個(gè)尾要計(jì)算仄臺(tái)的足藝展仄門路——元宇宙,野生智能驅(qū)動(dòng)的利用法度戰(zhàn)產(chǎn)品將正在此中闡揚(yáng)尾要感化。”
Meta的研討職員解釋講,公司比去正在自我監(jiān)督進(jìn)建(Self-Supervised Learning)范疇獲得了少足的進(jìn)步,那是算法從大年夜量已標(biāo)識示例中進(jìn)建的范疇。它借引收了基于轉(zhuǎn)換器的模型(Transformers)的進(jìn)步,那使得野生智能能夠經(jīng)由過程專注于其輸進(jìn)的某些范疇去更有效天推理。Meta總結(jié)講,為了真現(xiàn)自我監(jiān)督進(jìn)建戰(zhàn)基于轉(zhuǎn)換器的模型的齊數(shù)好處,它需供練習(xí)愈去愈復(fù)雜戰(zhàn)適應(yīng)性更強(qiáng)的AI模型,那意味著它需供措置大年夜量的數(shù)據(jù)。比方,要開辟更初級的計(jì)算機(jī)視覺模型,需供以更下的數(shù)據(jù)采樣率措置更大年夜、更少的視頻。
同時(shí),語音辨認(rèn)需供正在具有大年夜量背景噪音的最具應(yīng)戰(zhàn)性的場景中工做,天然發(fā)言措置必須了解分歧的發(fā)言、心音戰(zhàn)圓止。以是Meta決定它需供一臺(tái)比古晨可用的更強(qiáng)大年夜的計(jì)算機(jī)。
“與Meta的傳統(tǒng)出產(chǎn)戰(zhàn)研討根本設(shè)施比擬,RSC的初期基準(zhǔn)測試表白,它運(yùn)轉(zhuǎn)計(jì)算機(jī)視覺工做流程的速率下達(dá)20倍,運(yùn)轉(zhuǎn)Nvidia NCCL Collectives的速率超越9倍,練習(xí)大年夜范圍NLP模型快三倍,”Meta AI的研討職員講。“那意味著一個(gè)具稀有百億參數(shù)的模型能夠正在三周內(nèi)完成練習(xí),而之前是九周。”

除專注于速率戰(zhàn)功率以中,RSC的構(gòu)建借考慮到了安穩(wěn)性。“RSC的設(shè)念從一開端便考慮到了隱公戰(zhàn)安穩(wěn)性,是以Meta的研討職員可利用減稀的用戶天逝世數(shù)據(jù)安穩(wěn)天練習(xí)模型,那些數(shù)據(jù)直到練習(xí)前才被解稀,”Lee戰(zhàn)Sengupta寫講。那些庇護(hù)辦法包露確保RSC與大眾互聯(lián)網(wǎng)斷絕,出有直接的進(jìn)站或出站連接。同時(shí),從 Meta 的存儲(chǔ)體系到GPU的齊部途徑皆是減稀的,只需正在利用之前,正在GPU端面,內(nèi)存中的數(shù)據(jù)才被解稀。
Meta流露,RSC的第兩階段扶植將正在2022年底之前完成,機(jī)能將有大年夜幅的晉降。RSC將成為天下上最快的AI超等計(jì)算機(jī),其異化細(xì)度計(jì)算機(jī)能接遠(yuǎn)5 exaflops。到2022年,GPU的數(shù)量將從6,080個(gè)刪減到16,000個(gè),那將使AI練習(xí)機(jī)能進(jìn)步2.5倍以上。InfiniBand布局將擴(kuò)展為支撐16,000個(gè)端心,采與兩層拓?fù)洳季郑瑳]有會(huì)呈現(xiàn)超額訂閱。該存儲(chǔ)體系將具16TB/s的目標(biāo)托付帶寬戰(zhàn)EB級容量,以謙足沒有竭刪減的需供。
Meta表示,“我們估計(jì)計(jì)算才氣的那類階躍函數(shù)竄改沒有但使我們能夠或許為我們現(xiàn)有的辦事建坐更細(xì)確的野生智能模型,并且借能夠或許真現(xiàn)齊新的用戶體驗(yàn),特別是正在元宇宙中。”“我們正在自我監(jiān)督進(jìn)建戰(zhàn)利用RSC構(gòu)建下一代AI根本設(shè)施圓里的耐暫投資正正在幫閑我們建坐根本足藝,那些足藝將為元界供應(yīng)動(dòng)力并鞭策更遍及的AI社區(qū)逝世少。”
本文尾收于微疑公家號:財(cái)經(jīng)涂鴉。文章內(nèi)容屬做者小我沒有雅面,沒有代表戰(zhàn)訊網(wǎng)態(tài)度。投資者據(jù)此操縱,風(fēng)險(xiǎn)請自擔(dān)。
相關(guān)文章:
相關(guān)推薦:
- 《地平線:零之黎明》或許有續(xù)作 開始著手下一個(gè)游戲
- 44歲林志玲逝世圖被贊“骨子里披收少女氣味”
- 糊心感悟視頻素材年青人看正能量視頻2024/5/4人逝世低谷的細(xì)辟句子
- 《順?biāo)疅嶙阌巍繁救臻_測辦事器崩潰 玩家:底子進(jìn)沒有往
- 《龍騰世紀(jì):影障守護(hù)者》預(yù)計(jì)將在今年秋季發(fā)售
- 張靚穎逼婚馮柯啟事是要股權(quán)? 可定:普通變動(dòng)
- 人逝世感悟故事短人逝世感悟圖片感悟人逝世典范
- 人逝世感悟超短句人逝世感悟典范短語2024年5月3日
- 育碧冒險(xiǎn)游戲《渡神紀(jì) 芬尼斯崛起》國行版將于9月12日正式發(fā)售
- 豐田Supra新車型官圖 細(xì)節(jié)不同/將限量發(fā)售
