亚洲财经

搜索

Cerebras发布CS-4 AI加速器,称推理速度最高达GPU方案30倍

PANews 8月19日消息,据界面新闻报道,Cerebras发布新一代AI加速器CS-4,称其推理速度最高可达基于GPU方案的30倍。CS-4采用三颗新型WSE-3Turbo晶圆级引擎,AI算力达750PFLOPS,内存带宽达129.6PB/s。Cerebras表示,在GPT-OSS-120B测试中,CS-4每用户每秒生成超过4400个Token,最高达到GPU方案的30倍;其每瓦吞吐量最高为CS-3的10倍,并可支持超过50万亿参数的模型。CS-4预计将于今年第三季度开始出货。

转载来源:PANews(panewslab.com),版权归原作者所有,仅供资讯参考。

资讯来源:PANews