科学出海第一站
  • 更多出海见闻

    用至强®6高存力搞定MoE卸载!

    出海邦 2025-12-29 你敢想象:仅一台仅装备了单块24G显存消费级显卡的系统,不但能跑满血671B DeepSeek R1模型,还能带来5并发51 Token/秒的性能(更细节数据见下图),要知道这个性能水准,足以搞定像报告解读或数据分析这类对实时性要求不高的任务了。

    出海邦