电子技术应用|技术阅读
登录|注册

您现在的位置是:电子技术应用 > 技术阅读 > 一图知悉AI芯片规格性能差异

一图知悉AI芯片规格性能差异

图注:云端AI芯片,边缘终端AI芯片(不完全统计)ChatGPT加速生成式AI应用,其综合运用算法、预训练模型和多模态机器学习等,搜索现有数据或批量信息中的模式,高效输出适合数据收集分析、社交互动、文案等场景内容。 目前市场上已经有许多由生成式AI驱动的应用程序,常见输出类型包括文本、图像、音乐和软件代码。随着大算力数据中心、终端设备、AI芯片等硬件数量将会增加,产生的数据和运算需求同样剧增。 生成式AI涉及的产业链上游包含云服务商与硬件设备厂商;中游以运营商为主,边缘计算运营管理服务提供商为辅;下游以智能终端及应用为主。云端、边缘、终端设备对AI算力需求不同,云端计算密度大,主流算力在30TOPS以上;终端在AIoT场景应用要求是高效率和低功耗,主流算力低于8TOPS;边缘的主流算力介于云端和终端之间。图注:不同应用场景下的算力需求(1TOPS表示每秒处理一万亿次AI基本运算)芯查查获悉,云端预训练模型和参数升级,导致服务器基础设施需求增多,1个ChatGPT模型或需要8个GPU才能在不到一秒钟内响应问题。按照这个速度测算,需要超2万台8-GPU服务器,按照NVIDIA DGX A100(8个A100 GPU协同运行)建议售价近2万美元测算,需要40亿美元的基础设施支出。

边缘终端数据运算要求实时灵活,采集量增加能提升模型准确性。实现AI应用包括两个阶段,一个是训练,使用大量标记或未标记的数据获得相应的模型,完成特定的功能,这需耗费大量运算能力、内存、储存空间,通常只能放在服务器、大型工作站;另一个是推理,边缘和终端采集新数据,输入到已训练好的模型,推断得出使用新数据的各种结论。


部分国内AI芯片企业简介

ChatGPT成为创新突破口,在全球掀起新一轮AI发展热潮。我国芯片产业涉及AI的厂商很多,下面列举几个具有代表性的厂商。 寒武纪:提供各类云服务器/边缘计算/终端设备中人工智能核心芯片的研发、设计和销售,主要产品包括云端智能芯片及加速卡、训练整机、边缘智能芯片及加速卡、终端智能处理器IP 及相应的配套软件开发平台,近年来陆续推出思元、玄思等芯片/加速卡产品系列。近期,寒武纪表示公司专注于人工智能芯片的研发与技术创新,不直接从事人工智能最终应用产品(例如类ChatGPT应用)的开发和销售,相关产品正处于适配阶段,尚未产生收入。 燧原科技:专注人工智能领域云端算力产品,致力为人工智能产业发展交付普惠的基础设施解决方案,提供原始创新、全栈自研、具备完全自主知识产权的通用人工智能训练和推理产品。 昆仑芯:前身为百度智能芯片及架构部,于2021年4月完成独立融资,首轮估值约130亿元。公司团队在国内最早布局AI加速领域,深耕十余年,是一家在体系结构、芯片实现、软件系统和场景应用均有深厚积累的AI芯片企业。 瑞芯微:专注于集成电路设计与研发,目前已发展为领先的物联网(IoT)及人工智能物联网(AIoT)处理器芯片企业。瑞芯微拥有一支以系统级芯片、模拟电路芯片设计和算法研究为特长的研发团队,在处理器和数模混合芯片设计、多媒体处理、影像算法、系统软件开发上具有丰富的经验和技术储备。瑞芯微主要产品除各类型处理器芯片外,还包括电源管理芯片、数模混合芯片、光电产品及开发板产品。

芯查查企业SaaS(XCC.COM)产业链图谱涵盖IC设计、晶圆加工、半导体设备制造、半导体材料、封装测试、分销代理、终端应用七大环节,23个细分领域可以穿透性全景动态呈现。

来源于芯查查,作者henry


赵工

13488683602

zhaojh@kw.beijing.gov.cn

欢迎各公众号,媒体转载,申请加白名单秒通过

投稿/推广/合作/入群/赞助/转发 请加微信13488683602