91无码视频一区|蜜臀福利在线观看|日韩一极黄色视频|色欲人妻少妇Av一区二区|婷婷香蕉视频欧美三级片黄色|一级A片刺激高潮|国产精品污污久久|日韩黄色精品日韩久久综合网|中国一级片电影在线|超碰乱码久久久免费

AI大模型依賴底層技術突破,英特爾將推AI芯片、智能網(wǎng)卡新品

商界觀察
2023-07-09

“大模型未來的發(fā)展需要依賴于底層技術突破,如技術、通訊和存儲技術。只有這些底層技術不斷突破,才能實現(xiàn)對人工智能更高的要求。這些底層技術正是英特爾正在努力發(fā)展的方向,包括人工智能、邊緣到云的基礎架構、連接和傳感技術等?!痹?023年世界人工智能大會期間,英特爾中國區(qū)網(wǎng)絡與邊緣事業(yè)部首席技術官、英特爾高級首席AI工程師張宇在接受界面新聞等采訪時稱。

 

張宇說,他觀察當前AI大模型的商業(yè)進展,還未發(fā)現(xiàn)一個特別成功的商業(yè)模式和持久的使用場景,因此可以認為大模型的商業(yè)模式仍在摸索中。即使人們對于ChatGPT的應用相當熱衷,用它來寫論文、畫圖等,但一些報告顯示,ChatGPT最近的訪問量正在下降。

 

但這一現(xiàn)象并不能否定ChatGPT開啟的AI新時代,張宇稱,目前AI大模型和AIGC技術尚處于開環(huán)工作,而不是閉環(huán)工作,仍然存在成本、數(shù)據(jù)和人力等限制,隨著人工智能和算力的不斷發(fā)展,這些問題可能會得到解決。

 

作為芯片巨頭,英特爾雖不及英偉達在AI計算中憑借GPU“獨領風騷”,但仍是該領域的重要玩家,可以提供諸如CPU、GPU、FPGA等多種算力資源和完整軟硬件解決方案等。張宇介紹,不同的計算資源需考慮資源分配和調度問題。對于資源調度,需要一個統(tǒng)一API(應用程序接口)接口,否則不同的資源調度都需要不同的接口,這是不經濟的?!?/span>

 

英特爾正在考慮如何在異構平臺上合理分配負載,以進行人工智能處理。張宇指出,在底層方面,英特爾采用了OneAPI(一種統(tǒng)一編程模型和應用程序接口)思路,利用OneAPI提供的優(yōu)化庫,希望以打包的平臺方案整合自家龐雜的產品路線,降低客戶對底層硬件差異的敏感度。在算力調度方面,英特爾還需要考慮資源分配的問題,根據(jù)不同場景的要求選擇不同的產品組合,包括獨立顯卡、集成顯卡、CPU以及AI芯片等。

 

近年來,AI應用的普及,對底層計算芯片提出了更高的要求。GPU比傳統(tǒng)CPU更適合此類任務,性能表現(xiàn)更好,在AI計算市場上搶得先機。針對人工智能訓練市場,主流的方案是英偉達GPU,推廣專用AI芯片進行訓練并不容易。英特爾試圖打破這一點,張宇稱,目前英特爾有專門為大模型訓練設計的Habana Gaudi 2這一款AI芯片。

 

Habana Gaudi 2作為落地英特爾AI戰(zhàn)略的重要產品,英特爾對其有巨大市場期望。Habana原為以色列初創(chuàng)芯片公司,2016年成立,旗下產品曾滲透進入中國主要互聯(lián)網(wǎng)公司,2019年12月,英特爾以20億美元收購Habana。

 

“在最近的MLCommons公開的AI評測中,只有英特爾和另一家友商展示了在大模型訓練方面的良好性能?!睆堄钔嘎?,“我們計劃不久將其引入中國,并發(fā)布相關活動,這對英特爾來說非常重要。”

 

另一方面,英特爾亦以自身在網(wǎng)絡技術領域的積累,試圖解決AI大模型的網(wǎng)絡瓶頸問題。張宇指出,網(wǎng)絡互連對大模型的訓練推理同樣重要,因為大模型的平臺通常是一個集群,需要解決節(jié)點之間的通信問題。在訓練過程中,模型的參數(shù)存儲在GPU外圍存儲器中,反向傳輸過程中需要不斷更新這些參數(shù)。因此,在進行大量的數(shù)據(jù)存取操作時,通信速度的下降會影響整個系統(tǒng)的性能。

 

近年來,為了應對大模型網(wǎng)絡瓶頸,云計算、服務器等廠商提出無損網(wǎng)絡架構,引入RDMA(遠程直接數(shù)據(jù)存?。┘夹g或者是DPU(數(shù)據(jù)處理器)等硬件,張宇稱,隨著大模型的訓練集群規(guī)模不斷擴大,數(shù)據(jù)傳輸不斷增加,網(wǎng)絡擁塞不可避免。其中一種方案提高網(wǎng)卡速度,英特爾即計劃推出具備200G吞吐速度的網(wǎng)卡,400G和800G規(guī)格的網(wǎng)卡產品也在路線圖上。

 

另一方面,英特爾還嘗試提高網(wǎng)絡傳輸?shù)目煽啃裕拔覀儗⑼ㄟ^更新和創(chuàng)新更高層網(wǎng)絡協(xié)議來提高以太網(wǎng)傳輸RDMA協(xié)議的可靠性,稱之為可靠傳輸,這個功能將包含在我們即將發(fā)布的下一代IPU中?!睆堄罘Q。IPU即基礎設施處理器,該產品本質上就是如今火熱的DPU(數(shù)據(jù)處理器)。此前英特爾依托FPGA方案,在2021年6月推出了首款IPU。據(jù)界面新聞了解,英特爾IPU在運營商中應用較多。

 

本文僅代表作者觀點,版權歸原創(chuàng)者所有,如需轉載請在文中注明來源及作者名字。

免責聲明:本文系轉載編輯文章,僅作分享之用。如分享內容、圖片侵犯到您的版權或非授權發(fā)布,請及時與我們聯(lián)系進行審核處理或刪除,您可以發(fā)送材料至郵箱:service@tojoy.com