人工智能芯片效率高通2:1英伟达 自然语言英伟达占优
时间:2025-01-27 14:01:45 出处:焦点阅读(143)
世界两家在人工智能芯片领域领先的人工然语厂商高通和英伟达在周三公布的一组新的测试数据中,高通的智能占优人工智能芯片在三个衡量电源效率的指标中击败了英伟达。
人工智能模型需要用大量的数据进行训练,以提高其准确性和性能。高通在训练完成之后,英伟言英人工智能模型就可以用于推理——执行一些具体的达自任务,比如根据输入生成文本回复,伟达或者判断一张图片是人工然语否有猫。推理是智能占优人工智能技术在产品中广泛应用的环节,但也会增加企业的芯片效率成本,其中一个主要成本就是高通电力。
高通公司利用其在为手机等低功耗设备设计芯片的英伟言英经验,推出了一款专为云端和边缘端提供高性能、达自低功耗人工智能处理的伟达芯片——Cloud AI 100。该芯片在周三公布的人工然语由MLCommons发布的测试数据中,在两项功率效率指标上击败了英伟达的旗舰芯片H100。
功率效率指标是指每瓦特电力可以执行多少次服务器查询。Cloud AI 100在图像分类方面达到了227.4次查询每瓦特,而英伟达的H100只有108.4次查询每瓦特,图像分类可以用于识别图片中的物体或场景。
物体检测部分高通也领衔英伟达,分别达到了3.8次查询每瓦特和2.4次查询每瓦特。物体检测可以用于分析零售店的监控视频,了解顾客最常去哪些地方。
不过在自然语言处理方面,英伟达却占据了绝对优势,无论是在性能还是功率效率方面都排名第一。自然语言处理是人工智能技术中最广泛应用于聊天机器人等系统的技术,英伟达达到了10.8次查询每瓦特,而高通排名第二,为8.9次查询每瓦特。
分享到:
温馨提示:以上内容和图片整理于网络,仅供参考,希望对您有帮助!如有侵权行为请联系删除!