Google发布最新的AI加速器芯片Ironwood
站长云网GoogleCloud副总裁AminVahdat在博客文章中写道：“Ironwood是我们迄今为止功能最强大、性能最强、最节能的TPU。它专为大规模支持思考和推理AI模型而设计。”
Ironwood的出现正值人工智能加速器领域竞争日趋激烈之际。英伟达或许占据领先地位，但包括亚马逊和微软在内的科技巨头也在积极推广各自的内部解决方案。亚马逊拥有Trainium、Inferentia和Graviton处理器，可通过AWS提供，微软则为其Cobalt100人工智能芯片在Azure上托管实例。
根据Google的内部基准测试，Ironwood的峰值计算能力可达4614TFLOP。每块芯片配备192GB的专用RAM，带宽接近7.4Tbps。
Ironwood拥有一个增强型专用核心SparseCore，用于处理“高级排名”和“推荐”工作负载中常见的数据类型（例如，推荐你可能喜欢的服装的算法）。Google表示，TPU的架构旨在最大限度地减少芯片上的数据移动和延迟，从而节省功耗。
Vahdat补充道，Google计划在不久的将来将Ironwood与其AI超级计算机（Google云中的模块化计算集群）相结合。Ironwood代表了推理时代的独特突破，它具有更强的计算能力、内存容量、网络进步和可靠性。”
责任编辑：站长云网
踩一下[0]
顶一下[0]