11月14日早评:英伟达九连涨,算力迎来强风口

11月14日早评:英伟达九连涨,算力迎来强风口

00:00
04:57
据悉,H200继续基于“Hopper”架构,是第一款采用HBM3e内存的GPU(速度更快、容量更大),可加速生成式AI和大型语言模型的训练,同时推进用于HPC工作负载的先进计算。借助HBM3e,H200将以每秒4.8TB的速度提供141GB的内存,几乎是A100容量的两倍,带宽的2.4倍。

相比前代H100芯片,H200将更擅长执行“推理“任务,在执行推理或生成问题答案时,H200的性能比前者提升了60%至90%。公司明确指出,相比H100,H200芯片几乎将Meta 70亿参数“Llama 2”大模型推理速度翻倍,可谓相当恐怖。而H200势将成为生成式AI训练首要选择。
以上内容来自专辑
用户评论
  • 龙头泰山

    85折参加ximi团https://xima.tv/1_RAHZUx?_sonic=0