freesexvideos性少妇欧美,httpwww色午夜com日本,久久精品成人免费国产,欧美贵妇videos办公室,国产成人精品一区二区三区免费

妙鴨相機算力需求暴漲數百倍,排隊情況如何緩解?
2023-08-09 13:53:56 來源:21世紀經濟報道 編輯:


(相關資料圖)

21世紀經濟報道記者董靜怡 上海報道

8月9日消息,AI應用“妙鴨相機”已連續(xù)多日火爆出圈,上線不到一個月,算力需求暴漲數百倍。不過,通過在阿里云上緊急擴容后,其因用戶暴增導致的排隊情況有所緩解,排隊時長已大幅減少,用戶體驗得到改善。

自7月17日正式上線以來,“妙鴨相機”就以9塊9價格和高質量“寫真”照獲得了大量關注,成千上萬的用戶涌進應用中,高峰期一度有4000-5000人排隊,需要等待10多個小時才能出片。

某資深IT人表示,“妙鴨相機”的相片生成需要龐大的GPU算力進行計算,按上述高峰期的量級至少需要幾千臺GPU服務器才能滿足,線下部署不切實際,云上部署能為創(chuàng)業(yè)公司節(jié)省大量成本和時間,但目前僅有少數云計算大廠具備這樣的算力儲備。

“此前大家對大模型訓練需要的算力關注較多,尤其是GPT類的模型訓練,動輒需要上萬張顯卡?!鄙鲜鲑Y深人士稱,隨著Llama2等開源大模型的流行,大模型應用推理端的算力需求更值得關注,當AIGC進入生產力時代,推理算力需求可能遠高于訓練算力。

隨著各個行業(yè)的AIGC開發(fā)逐步完成,對業(yè)務開展階段使用的推理算力需求開始大幅增長,未來幾個月推理的算力需求總量可能遠高于訓練算力。

以目前國內算力規(guī)模最大的阿里云為例,其提供最大十萬卡GPU規(guī)模集群的擴展性,同時可承載多個萬億參數大模型同時在線訓練和推理。此外,阿里云還提供了AI加速套件AIACC,大幅提升計算效率,大模型Finetune的訓練效率可提升60%,推理效率可提升100%以上。

據相關負責人透露,“妙鴨相機”已在阿里云上進行緊急擴容,應對暴漲數百倍的算力需求。雖然算力一邊加,另一邊用戶也在漲,但高峰期排隊現(xiàn)象已經有了緩解。

關鍵詞:

相關閱讀
分享到:
版權和免責申明

凡注有"環(huán)球傳媒網 - 環(huán)球資訊網 - 環(huán)球生活門戶"或電頭為"環(huán)球傳媒網 - 環(huán)球資訊網 - 環(huán)球生活門戶"的稿件,均為環(huán)球傳媒網 - 環(huán)球資訊網 - 環(huán)球生活門戶獨家版權所有,未經許可不得轉載或鏡像;授權轉載必須注明來源為"環(huán)球傳媒網 - 環(huán)球資訊網 - 環(huán)球生活門戶",并保留"環(huán)球傳媒網 - 環(huán)球資訊網 - 環(huán)球生活門戶"的電頭。