AI服務分級收費 有助產業發展

經濟日報 記者蘇嘉維/台北報導

AI算力成本增加,算力服務喊漲。輝達(NVIDIA)執行長黃仁勳在GTC大會釋出「AI服務分級說」,業界預期,AI算力將出現分級計速、計量收費模式,「算力有價」讓產業發展更健康。

伺服器零組件過去一年來成本全面喊漲,雲端服務大廠(CSP)資本支出喊增也因為建置成本提升,業界預估,這波漲價潮今年就會轉嫁至消費者,否則建設成本將導致CSP廠現金流中斷,為不降低AI投資動能,CSP漲價是最直接的方式。

從長遠角度看,業界認為,AI算力如果分級使用,以使用強度對應付費水準,「算力有價」趨勢會讓市場使用更有效率。

黃仁勳在GTC大會已替未來AI算力分級勾勒出大略概要,大致可分為五層,從高吞吐、低速度開始的免費層,到每百萬token需3美元的中級層、每百萬token 6美元的高級層、每百萬token 45美元的高速層、每百萬token 150美元的超高速層,定義算力以質(強度)和量(用量)分級表現。

AI服務分級收費 有助產業發展