国产精品久久久久久久久久久久午衣片,无码AV大香线蕉伊人久久蜜臀,欧美日韩亚洲中文字幕三,欧美日韩精品成人网视频

堅持不用GPU!Meta又要All in自研AI芯片?

就在整個(gè)硅谷都在以自家公司拿到多少塊英偉達的AI芯片(A100 GPU)為傲時(shí),有這么一家倔強的公司,堅持不用英偉達的GPU,決定自研AI芯片。


(相關(guān)資料圖)

這家公司就是Facebook的母公司Meta。

5月18日本周四,Meta披露了旗下數據中心項目支持AI工作的細節,提到已經(jīng)打造一款定制芯片,簡(jiǎn)稱(chēng)MTIA,用于加快生成式AI模型的訓練。這是Meta首次推出AI定制芯片。Meta稱(chēng),MTIA是加快AI訓練和推理工作負載的芯片“家族”的一分子。

MTIA全稱(chēng)為Meta訓練和推理加速器。MTIA是一種ASIC,也就是將不同電路集成在一塊板上的芯片,可以將它進(jìn)行編程,執行一項或多項任務(wù)??雌饋?lái)和GPU的功能類(lèi)似,對不對?

和現在全球都在搶著(zhù)用的英偉達A100 GPU相比,Meta自稱(chēng)這款芯片也有優(yōu)勢。Meta稱(chēng),MTIA采用開(kāi)源芯片架構RISC-V,它的功耗僅有25瓦,遠低于英偉達等主流芯片廠(chǎng)商的產(chǎn)品功耗。

而且,為了凸顯自己在A(yíng)I領(lǐng)域早有布局,Meta稱(chēng),第一代MTIA芯片在2020年就已經(jīng)設計完成,采用的是7納米工藝。Meta說(shuō),打造第一代MTIA芯片的目的是提高內容推薦模型的效率,以便更精準地為用戶(hù)推薦廣告等內容。此外,第一代MTIA可以將內部128MB的內存擴展到高達128GB。在Meta設計的基準測試中,它處理了低等和中等復雜度的AI模型,效率高于GPU。

對于投資者關(guān)于Meta為什么不直接采用GPU的質(zhì)疑,Meta的軟件工程師Joel Cohurn特別介紹稱(chēng),Meta并非不是沒(méi)有嘗試過(guò)GPU,而是在最初使用GPU執行推理任務(wù)時(shí),發(fā)現GPU不太適合這種工作。用GPU固然可以大幅優(yōu)化軟件,但對真實(shí)模型的效率很低,現實(shí)配置時(shí)難度大、成本高。所以Meta認為,靠人不如靠己,需要搞個(gè)MTIA。

不過(guò),Meta也承認,盡管在處理中低復雜程度模型時(shí)效率更高,但MTIA芯片在處理高復雜度AI模型時(shí)卻問(wèn)題多多。

Meta間接承認,要想讓MTIA達到英偉達A100的水平,尚有差距。Meta表示,這款芯片在內存和網(wǎng)絡(luò )領(lǐng)域的工作還未完成,隨著(zhù)AI模型發(fā)展,這些工作會(huì )出現瓶頸。目前,MTIA 的重點(diǎn)放在Meta應用家族的推理方面,而不是訓練。不過(guò)Meta強調,MTIA“大大”提高了單位瓦特的推薦負載運行效率,讓公司能運行加強版的、更尖端的AI工作負載。

Meta本周四并未披露配置新芯片的時(shí)間表,也未說(shuō)明具體有什么計劃開(kāi)發(fā)可能訓練模型的芯片。

Meta在A(yíng)I領(lǐng)域已經(jīng)落后同行

去年底ChatGPT大火之后,AI成為全球科技界最熱門(mén)的話(huà)題。AI芯片的主流制造商英偉達賺得盆滿(mǎn)缽滿(mǎn),一度被視為已經(jīng)落伍的微軟借著(zhù)投資OpenAI成功逆襲,向來(lái)宣稱(chēng)在A(yíng)I領(lǐng)域投資諸多的谷歌倉促發(fā)布Bard應戰,以及一眾互聯(lián)網(wǎng)大廠(chǎng)面對英偉達的“霸權”紛紛宣布要自研AI芯片……

這中間,獨獨沒(méi)有Meta的蹤影。

上個(gè)月,有媒體爆出一個(gè)大瓜,Meta如今居然還在用CPU來(lái)跑AI!

這不僅僅是因為英偉達的A100定價(jià)頗高,更是因為Meta之前All in元宇宙留下的后遺癥。扎克伯格決定把全部身家賭在元宇宙上這一戰略,直接榨干了Meta的算力。不管是AI的部署,還是對競爭對手威脅的應對上,Meta的潛力都遭到了極大的削弱。

更不要說(shuō)去年以來(lái),Meta連續不斷的裁員,讓整個(gè)公司人心惶惶,絲毫沒(méi)有戰斗力應對突如其來(lái)的AI大潮。

這些失誤,引起了前Meta董事會(huì )成員Peter Thiel的注意,隨后,他于2022年初辭職。據內部人士透露,在離開(kāi)前的一次董事會(huì )會(huì )議上,Thiel告訴扎克伯格和其他高管們,他們對Meta的社交媒體業(yè)務(wù)太自滿(mǎn),并且過(guò)分關(guān)注元宇宙了,這讓公司很容易被競爭對手撼動(dòng)。

在去年夏末,扎克伯格曾召集高管們,花了五個(gè)小時(shí),對Meta的計算能力進(jìn)行分析。他們需要知道,在開(kāi)發(fā)尖端的AI方面,Meta有多大的能力?

出來(lái)的結果,讓所有人倒吸一口涼氣。

根據去年9月20日的公司備忘錄顯示,盡管Meta對AI研究進(jìn)行了大筆高調的投資,然而主要業(yè)務(wù)需要的AI友好型硬件和軟件系統都非常昂貴,在這些方面公司的進(jìn)展相當緩慢。緩慢到,已經(jīng)阻礙了Meta跟上大規模創(chuàng )新的步伐。

哪怕是Meta All in的元宇宙,要想維持增長(cháng),也必須越來(lái)越多地依靠AI。

Meta基礎設施負責人Santosh Janardhan強調,無(wú)論是開(kāi)發(fā)AI的工具,還是工作流程,Meta都已經(jīng)遠遠落后于其他對手。

要想追上英偉達有多難?

想要搞AI自研芯片的科技大廠(chǎng)不止Meta一家,但是想要做到英偉達這么成功、達到與之比肩的地位,還有很多路要走。

目前AI領(lǐng)域最常見(jiàn)的芯片是英偉達的A100。根據New Street Research的數據,英偉達占據了可用于機器學(xué)習的圖形處理器市場(chǎng)的95%。

A100非常適合支持ChatGPT、Bing AI或Stable Diffusion等工具的機器學(xué)習模型,它能夠同時(shí)執行許多簡(jiǎn)單的計算,這對于訓練和使用神經(jīng)網(wǎng)絡(luò )模型非常重要。

A100背后的技術(shù)最初用于在游戲中渲染復雜的3D圖形,它通常被稱(chēng)為圖形處理器(GPU),但如今A100配置和目標是機器學(xué)習任務(wù),并在數據中心運行,而不是在個(gè)人電腦中運行。

市場(chǎng)對A100的需求可謂巨大。對AI公司來(lái)說(shuō),一塊A100是難以支撐起他們的AI夢(mèng)想的。許多數據中心使用一個(gè)包含八個(gè)A100的協(xié)同工作系統。該系統是英偉達的DGX A100,建議售價(jià)接近 20萬(wàn)美元。

New Street Research的一項估計認為,Bing搜索和ChatGPT的模型可能需要8個(gè)A100 GPU才能在不到一秒的時(shí)間內響應用戶(hù)問(wèn)題。這意味著(zhù),微軟將需要超過(guò)2萬(wàn)個(gè)DGX系統,這意味著(zhù)微軟在A(yíng)I基礎設施建設上的支出就可能高達40億美元的基礎設施支出。如果谷歌想實(shí)現同樣的AI轉型,那么將在DGX上花費800億美元。

更讓硅谷其他公司不敢有所懈怠的是,英偉達并不因為A100的巨大成功而自滿(mǎn)。

當前,英偉達已經(jīng)開(kāi)始開(kāi)始量產(chǎn)下一代AI芯片H100。A100在2020年推出,H100則在2022年開(kāi)始量產(chǎn),當然,價(jià)格也高于A(yíng)100。英偉達表示,H100是其第一款針對變壓器進(jìn)行優(yōu)化的數據中心GPU,這是許多最新和頂級人工智能應用程序使用的一項越來(lái)越重要的技術(shù)。

面對當前英偉達在A(yíng)I芯片領(lǐng)域一家獨大的局面,當前在自研AI芯片領(lǐng)域步子邁得最大的是微軟。

本月早些時(shí)候,微軟正在提供財務(wù)支持以加強AMD研發(fā)AI芯片的努力,并與之合作開(kāi)發(fā)代號為Athena的自研AI芯片,這是微軟在自研AI芯片方面多管齊下、多重下注的一部分。

有分析認為,此舉反映了微軟對芯片行業(yè)的介入持續深化。在過(guò)去幾年里,該公司一直在英特爾前高管Rani Borkar的領(lǐng)導下建立一個(gè)芯片部門(mén),該部門(mén)目前擁有近1000名員工。據其中一位知情人士稱(chēng),其中數百名員工正在從事Athena項目,微軟已在該項目上投入了約20億美元。

但這并不預示著(zhù)微軟和英偉達的分裂。微軟打算與英偉達保持密切合作,該公司的芯片是訓練和運行AI系統的主力軍。微軟還試圖獲得更多英偉達芯片,這進(jìn)一步凸顯了微軟和其他公司面臨的AI芯片的緊迫短缺。

4月中旬,據媒體援引兩位知情人士的話(huà)說(shuō),微軟早在2019年就開(kāi)始開(kāi)發(fā)內部代號為Athena的AI芯片。其中一位知情人士稱(chēng),一些微軟和OpenAI的員工已經(jīng)開(kāi)始測試并使用這些芯片。微軟希望該芯片的性能優(yōu)于目前從其他供應商處購買(mǎi)的芯片,從而節省其在昂貴的AI業(yè)務(wù)上的時(shí)間和成本。

如此看來(lái),Meta想要趕上英偉達,甚至趕上其他硅谷同行的步伐,還有很長(cháng)的路要走。

風(fēng)險提示及免責條款 市場(chǎng)有風(fēng)險,投資需謹慎。本文不構成個(gè)人投資建議,也未考慮到個(gè)別用戶(hù)特殊的投資目標、財務(wù)狀況或需要。用戶(hù)應考慮本文中的任何意見(jiàn)、觀(guān)點(diǎn)或結論是否符合其特定狀況。據此投資,責任自負。

關(guān)鍵詞: