股票期货配资 cerebrassystems宣布推出全球最快ai推理解决方案
2024-10-16从7月3日至8月31日，登录征集页面👉🏻 品玩8月28日讯，据siliconangle 报道，Cerebras Systems 宣布 推出全球最快的 AI 推理解决方案 Cerebras Inference。 据悉，该新解决方案为 Llama 3.1 8B 提供每秒 1800 个 token，为 Llama 3.1 70B 提供每秒 450 个 token，速度是微软 Azure 等超大规模云中提供的基于英伟达 GPU 的 AI 推理解决方案的 20 倍。 除了令人难以置信的性能之外，这款新型