院士鄭緯民:國(guó)產(chǎn)AI芯片如果生態(tài)改善 哪怕60%性能也有人用
7月9日消息,在近日的信息化百人會(huì)上,中國(guó)工程院院士、清華大學(xué)計(jì)算機(jī)系教授鄭緯民表示,國(guó)產(chǎn)AI芯片的核心問(wèn)題在于生態(tài)系統(tǒng)不夠完善。
他認(rèn)為,盡管?chē)?guó)產(chǎn)AI芯片在硬件性能上取得了顯著進(jìn)展,但由于軟件生態(tài)系統(tǒng)的不成熟,導(dǎo)致用戶使用體驗(yàn)不佳。
鄭緯民強(qiáng)調(diào),算力是大模型產(chǎn)業(yè)的主要開(kāi)銷(xiāo),占據(jù)了大模型訓(xùn)練成本的70%以及推理成本的95%。
他指出,如果國(guó)產(chǎn)AI芯片生態(tài)系統(tǒng)得到改善,哪怕只能達(dá)到國(guó)外芯片60%的性能,用戶也會(huì)愿意使用。
他進(jìn)一步闡釋了生態(tài)系統(tǒng)的重要性,認(rèn)為如果一個(gè)原本在英偉達(dá)平臺(tái)上開(kāi)發(fā)的人工智能軟件能夠輕松移植到國(guó)產(chǎn)系統(tǒng)上,這就意味著生態(tài)系統(tǒng)是良好的。
反之,如果移植過(guò)程困難重重,耗時(shí)長(zhǎng)達(dá)一年或兩年,那么生態(tài)系統(tǒng)就是不成熟的。
為了改善國(guó)產(chǎn)AI芯片的生態(tài)系統(tǒng),鄭緯民提出了需要做好的“十個(gè)軟件”,包括編程框架、并行加速、通信庫(kù)、算子庫(kù)、AI編譯器、編程語(yǔ)言、調(diào)度器、內(nèi)存分配系統(tǒng)、容錯(cuò)系統(tǒng)和存儲(chǔ)系統(tǒng)。
他相信,只要這些方面得到優(yōu)化,即使硬件性能不是頂尖,用戶也會(huì)因?yàn)榱己玫氖褂皿w驗(yàn)而選擇使用國(guó)產(chǎn)AI芯片。