CPU+加速芯片:通常搭载GPU、 FPGA、ASIC等加速芯片,利用 CPU与加速芯片的组合可以满足 高吞吐量互联的需求。系统性能优劣不能只考 虑CPU核心数量,还要 考虑操作系统、调度算 法、应用和驱动程序等。随着机器学习、边缘计算、自动驾驶的发展,大量数据处理任务的产生,对于芯片计算效率、计算能力和计能 耗比的要求也越来越高,ASIC通过与CPU结合的方式被广泛关注,国内外龙头厂商纷纷布局迎战AI时代的到来。近期CHATGPT的兴起推动着人工智能在应用端的蓬勃发展,这也对计算设备的运算能力提出了前所未有的需求。

虽然AI芯片、 GPU、CPU+FPGA等芯片已经对现有模型构成底层算力支撑,但面对未来潜在的算力指数增长,短期使用CHIPLET异构技术加速各 类应用算法落地,长期来看打造存算一体芯片(减少芯片内外的数据搬运),或将成为未来算力升级的潜在方式。Chiplet异构技术不仅可以突破先进制程的封锁,并且可以大幅提升大型芯片的良率、降低设计的复杂程度和设计成本、降低芯片 制造成本。Chiplet技术加速了算力升级,但需要牺牲一定的体积和功耗,因此将率先在基站、服务器、智能电车等领域广泛使用。基于7nm制程工艺,是寒武纪首款采 用chiplet(芯粒)技术的AI芯片。集成了390亿个晶体管,最大算力高 达256TOPS(INT8),是寒武纪第二 代产品思元270算力的2倍。 内存带宽是上一代产品的3倍,访存 能效达GDDR6的1.5倍。

ChatGPT研究框架(2023)
download

声明:本站所有报告及文章,如无特殊说明或标注,均为本站用户发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。