昆侖萬維旗下Opera全新AI服務(wù)器集群落地 大模型推理速度提高30倍
據(jù)昆侖萬維消息,近日,昆侖萬維旗下海外信息分發(fā)及元宇宙平臺(tái)Opera宣布,公司在冰島凱夫拉維克部署了一套全新的、完全由綠色能源驅(qū)動(dòng)的人工智能(AI)服務(wù)器集群。
該集群能夠?yàn)镺pera提供先進(jìn)的AI超級(jí)計(jì)算能力,并有效簡化生產(chǎn)級(jí)AI應(yīng)用的開發(fā)和部署過程,為Opera未來更多生成式AI服務(wù)打下基礎(chǔ)。與上一代GPU相比,搭載NVIDIA H100 Tensor Core GPU的方案能讓AI訓(xùn)練速度提高4倍,大語言模型推理速度提高30倍。
文章評(píng)價(jià)

發(fā)布
發(fā)布