欢迎来到中细软旗下技术转移平台

我的成果我的需求在线客服

服务热线:400-700-0065

科技 | IBM开发新芯片为AI提速:消除片外内存,灵感来自大脑

2023-10-274103来源:澎湃新闻

IBM研发的北极点(NorthPole)处理器芯片可避开访问外部存储器,提高计算能力,节约能源。

  IBM研发的北极点(NorthPole)处理器芯片可避开访问外部存储器,提高计算能力,节约能源。

  美国加利福尼亚州圣何塞的IBM研究人员开发了一种以大脑为灵感的计算机芯片,这款北极点处理器芯片消除了频繁访问外部存储器的需要,在图像识别任务中比现有架构更快,能源消耗更少。这表明计算和内存可以大规模集成。相关研究10月19日发表在《科学》杂志。

  

640 (2).png


  北极点芯片采用神经推理结构,由简单计算单元组成的多层阵列通过编程来识别数据中的模式。底层接收数据,例如图像中的像素;每一个连续的层检测日益复杂的模式,并将信息传递给下一层;顶层输出结果,例如可以表示图像含有猫、汽车或其他物体的可能性。

  在传统冯·诺伊曼架构下,计算和存储分离。传统计算机芯片可以有效处理计算,但每次计算时仍然需要使用被称为RAM的外部存储器。因此不管处理器运行多快、性能多好,每次执行运算时都需要把数据从存储器搬到处理器中,数据处理完再搬回到存储器。在以数据为主的AI计算之下,冯·诺伊曼架构的“存储墙”和“功耗墙”挑战凸显。论文合著者、IBM计算机工程师达门德拉·莫达(Dharmendra Modha)表示,他曾估计在这种架构上模拟人类大脑可能需要12个核反应堆的能源输出。

  而北极点芯片使存储单元在物理上尽可能接近计算单元中的计算元件。北极点芯片由256个计算单元组成,每个计算单元都有内存,通过消除片外内存,将计算与片上内存交织在一起。这些计算单元以一种网络连接在一起,这种网络的灵感来自于人类大脑皮层之间的白质连接。

  在不使用最先进工艺的情况下,北极点芯片能耗是使用最先进技术的人工智能芯片的1/5。论文作者估计,如果北极点芯片设计采用最先进的制造工艺,其效率将是目前设计的25倍。论文提到,“在ResNet50基准图像分类网络上,相对于使用类似12纳米技术工艺的GPU, 北极点实现了每瓦FPS(每秒传输帧数)的能量度量高25倍,每个晶体管FPS的空间度量高5倍,延迟时间度量低22倍。”

  

640 (3).png


  不过,据《自然》杂志报道,即使是北极点芯片224兆内存对于大型语言模型来说也是不够的,比如聊天机器人ChatGPT这样的语言模型,即使在最精简的版本中也要占用几千兆的数据。而且该芯片只能运行预先编程的神经网络,这些神经网络需要在单独的机器上提前训练。但论文作者表示,北极点芯片架构可能在速度关键型应用中有用,比如自动驾驶汽车。

  科技创新靠发展,中细软集团为创新保驾护航,如果您有知识产权方面的需求,欢迎咨询我们。

  来源:澎湃新闻


标签: IBM 芯片 AI
声明:本网站文章来源于网络转载,转载目的在于传递更多信息。如涉及文章内容、版权和其它问题,请及时与我们联系,我们将在第一时间删除内容!

更多> 推荐专利

基于焊接时间实现逆变电焊机电流遥调的方法与装置
发明专利专利号:201710296338X
一种宠物窝垫
实用新型专利号:202022439393X
一种基于大数据的道路路况预测方法
发明专利专利号:2023108077373
地砖(02)
外观专利专利号:2020307193603
瓷砖(8)
外观专利专利号:2021302676753
瓷砖(10)
外观专利专利号:202130270779X
瓷砖(12)
外观专利专利号:2021302707766
一种膜片防水安装结构
实用新型专利号:202320444139X
三窗加热车衣
实用新型专利号:202320924097X
新风净化器
外观专利专利号:2016304266112

我要找专利

请输入正确的手机号

专利类型

登录成功

您的咨询我们已收到,稍后会有专业顾问与您联系。