申银万国期货

峡江信息网

用户登录

股票配资

股票配资

资讯

查看

以假乱真的硅神经元,能复制人脑吗?

2020-07-20/ 峡江信息网/ 查看: 214/ 评论: 10

摘要来源|神经现实撰文|SandeepRavindran译者|顾凡及编辑|EON2012年,计算机科学家达曼德拉·莫达(DharmendraModha)用一台强

来源 | 神经现实

申银万国期货撰文 | Sandeep Ravindran

译者 | 顾凡及

编辑 | EON

2012年,计算机科学家达曼德拉·莫达(Dharmendra Modha)用一台强盛的超等计算机仿真了凌驾5000亿个神经元的活动,其数目甚至凌驾了人脑中850亿个左右的神经元数。这是莫达近十年岁情的顶峰,在这十年里,莫达从仿真啮齿动物和猫的脑开始直到仿真有人脑范围的体系。

申银万国期货该仿真消耗了巨大的计算资源,它用了150万个处置惩罚器和1.5PB(150万GB)的存储器,然而其速率仍然慢得令人抓狂,比脑计算速率要慢1500倍。莫达预计,如果要使它和生物的现实运行速率一样快,就需要12吉瓦的能量,约莫是胡佛大坝最大供电量的6倍。加州北部IBM阿尔马登研究中心(IBM Almaden Research Center)的脑启发计算首席科学家莫达说:“然而,这对脑来说只是小菜一碟。”这种仿真远远无法复制人脑的功效,而人脑的功率与一个20瓦的灯胆差不多。

自2000年初以来,硬件的改进以及实验和理论神经科学的进步,使研究职员可以或许创建更大、更精细的脑模子。但这些仿真越庞大,就越会受到传统计算机硬件的限定,莫达极度耗电的模子就说明了这一点。

莫达的人脑仿真是在劳伦斯·利弗莫尔国度实验室(Lawrence Livermore National Lab)的蓝基因/Q红杉超等计算机(Blue Gene / Q Sequoia supercomputer)上运行的,这台计算机是传统计算机硬件的一个无比强盛的集合体:它的事情要靠一大堆传统的计算机芯片,这些芯片是指甲巨细的硅片,其中包罗数百万个晶体管。传统计算机芯片的结构和功效原则与我们的脑完全差别。

申银万国期货计算机的“思索”与我们的脑截然差别,这一事实让它们在处置惩罚数字运算等使命时具有上风,同时也让它们在其他一些领域里明显显得很原始,好比理解人类的语言或从经验中学习。如果科学家们想要仿真脑,使其能与人类智力相媲美,更不消说逾越人类智力,他们可能就必须先要研制更好的构件——某些受我们脑启发的计算机芯片。

智慧芯片(SMART CHIP):由物理学家卡尔海因茨·迈尔(Karlheinz Meier)领导的海德堡小组设计的神经形态芯片(neuromorphic chip)。该芯片有384小我私人工神经元,由10万个突触相互毗连,运行速率比脑计算速率快约10万倍。

申银万国期货所谓的神经形态芯片(neuromorphic chips)复制了脑的架构,也就是说,它们通过类似于神经元行动电位的“神经锋电位”相互交流。这种发放锋电位的举动方式使得芯片的功耗非常小,纵然将其拼接成非常大范围的体系,也能保持高能效。

滑铁卢大学的理论神经科学家克里斯·伊莱亚史密斯(Chris Eliasmith)说道:“在我看来,最大的上风是可扩展性。”在他的《如何构建脑》(How to Build a Brain)一书中,伊莱亚史密斯描述了他创建并定名为“语义指针架构同一网络”(Spaun)*的功效脑的大范围模子[1]。当伊莱亚史密斯运行Spaun的初始版本时,该模子有250万个“神经元”,纵然在最好的传统芯片上运行,它的运行速率也比生物神经元要慢20倍。他说道:“每当我们增长几百万个神经元时,它就会变慢那么多。”当伊莱亚史密斯在数字神经形态硬件上运行他的一些仿真时,他发明它们不仅速率快得多,而且功效也提高了50倍左右。更妙的是,随着伊莱亚史密斯仿真更多的神经元,神经形态平台变得越发高效。这也是神经形态芯片要从自然界复制过来的方式中之一,在自然界,随着范围的扩大,好比说,从蠕虫脑的300个神经元扩大到人脑的850亿个左右,脑似乎会同时增长功率和效率。

*译者注

Spaun是Semantic Pointer Architecture Unified Network的缩写。

神经形态芯片在执行庞大的计算使命时,功耗极低,这引起了科技行业的存眷。神经形态芯片的潜在商业应用包括高能效超等计算机、低功耗传感器和自学习呆板人。但生物学家心中有一种差别的应用:构建一个功效齐备的人脑复制品。

申银万国期货今天的许多神经形态体系,从IBM和英特尔开发的芯片,到作为欧盟人脑计划一部门所创建的两种芯片,研究职员都可以使用,他们可以远程访问它们来运行他们的仿真。研究职员正在用这些芯片创建单个神经元和突触的精细模子,并解读各单元如何聚集在一起以创建更大的脑子体系。这些芯片允许神经科学家在现实硬件上检验视觉、听觉和嗅觉如何事情的理论,而不仅仅是用软件仿真。最新的神经形态体系也使研究职员得以开始举行更具挑战性的使命,即复制人类如何思索和学习。

申银万国期货现在还只是起步阶段,要真正开释神经形态芯片的潜力将需要理论、实验和计算神经科学家以及计算机科学家和工程师的配合积极。但终极的目标非常雄伟,并不亚于弄清晰脑的各个组成部门是如何配合创造思想、情感甚至意识。

申银万国期货英特尔神经形态计算实验室主任、计算机工程师迈克·戴维斯(Mike Davies)说道:“通过逆向工程复制脑,是我们能接受其挑战的最雄心壮志的技能难题之一。”

问题全在于架构

申银万国期货加州理工学院的科学家卡弗·米德(Carver Mead)在20世纪80年代创造了“神经形态”(neuromorphic)一词,由于他注意到,与作为现代计算机芯片构件的数字晶体管差别,模拟晶体管更靠近神经元的生物物理性子。详细来说,仿真电路中非常微小的电流(微小到电路现实上处于 “关闭 ”状态)体现出类似于生物神经元中离子流过通道的动力学性子,而这种流动并不导致行动电位。

申银万国期货贾科莫·因迪维里(Giacomo Indiveri)对米德及其同事们的事情很感兴趣,90年代中他决定到加州理工学院做博士后研究。现在,因迪维里是瑞士苏黎世大学的一名神经形态工程师,他所领导的研究小组是少数几个延续米德使用低电流模拟电路要领的研究小组之一。因迪维里和他的团队手工设计芯片的结构,这个历程可能需要几个月的时间。他说道:“由于我们试图提出巧妙的解决方案来实现神经动力学,这仍然是铅笔和纸张的事情。如果你在做模拟,那么这在很洪流平上仍然是一门艺术。”

一旦确定告终构,他们就会将设计通过电子邮件发送给代工场,这是一家制造智能手机和电脑芯片的精密金属铸造工场。终极的结果看起来大抵上就像智能手机芯片一样,但它的功效就像“神经元”组成的网络,通过几个节点流传电脉冲。在这些模拟神经形态芯片中,信号是通过现实的电脉冲来中继的,这些脉冲的强度可以差别。就像在脑中一样,信息是通过差别神经元的脉冲定时(timing)来通报的。

因迪维里说道:“如果你把其中一个神经元的输出给神经生理学家看,他将无法告诉你这究竟是来自硅神经元照旧来自生物神经元。”

这些硅神经元代表了复制神经体系有机湿件(wetware)的不完善实验。生物神经元是模拟-数字混淆体系;它们的行动电位模仿数字硬件的离散脉冲,但它们也是模拟的,由于神经元中的电压水平会影响传输的信息。

模拟神经形态芯片的特点是硅神经元与生物神经元的物理举动非常相似,但它们的模拟性子也使它们传输的信号不那么准确。虽然在进化上我们的脑已经找到了赔偿其组件不准确的要领,但研究职员却将其基本观点带入了数字领域。IBM和英特尔等公司都专注于数字神经形态芯片,其硅神经元复制了生物神经元中的信息流动方式,但物理原理差别。之以是采取差别的物理原理,这和传统数字芯片占据了我们绝大多数计算机和电子产物的缘故原由相同,缘于其更高的可靠性和更容易制造。

申银万国期货构建模块:每个SpiNNaker芯片与存储器封装在一起(左上角),然后拼接成较大的装备,如右上角的48节点板。多个板子可以毗连在一起,形成更大的SpiNNaker体系(上图)。

但这些数字芯片在体现脑架构的方式上保持了其神经形态状态。在这些数字神经形态芯片中,锋电位以信息包的情势出现,而不是现实的电压变化脉冲。戴维斯说道:“这与我们传统上在计算机里设计的全部工具都有很大的差别。”

不管锋电位的形状如何,体系只有在输入到达一定阈值时才会转发信息,这使神经形态芯片得以中断地少量消耗电力,而非不中断地大量消耗。这类似于脑的神经元在任何时候都会举行交流,而不是听从计时员的命令。另一方面,传统芯片大多是线性的,在严酷的内部时钟控制下,在存储数据的存储硬件和计算数据的处置惩罚器之间穿梭往返通报数据。

当莫达在设计IBM的神经形态芯片(名为“真北”[TrueNorth])时,他起首分析了猕猴和人脑中的长间隔布线图,该图映射了差别脑区之间的毗连方式[2]。他说道:“它真正开始告诉我们长间隔毗连、短间隔毗连,以及配资公司 神经元和突触的动力学性子。”到2011年,莫达创造了一个包罗256个硅神经元的芯片,与蠕虫秀丽隐杆线虫(C.elegans)的脑范围相同。利用最新的芯片制造技能,莫达将神经元包装得越发精密,以缩小芯片的体积,并将这些芯片中的4096个芯片平铺在一起,终极在2014年公布了真北,它包罗100万个合成神经元,这与蜜蜂脑的范围差不多,而且功耗比传统芯片低几百倍[3]。

真北等神经形态芯片的人工神经元之间具有非常高的毗连性,类似于在哺乳动物脑中看到的情况。大范围并行的人脑的850亿个神经元通过约莫1万亿个突触高度互联。

申银万国期货真北要简朴得多,其中有2.56亿个 “突触”,毗连其100万个神经元。通过将多个真北芯片拼接在一起,莫达创造了两个更大的体系:一个仿真了1600万个神经元和40亿个突触,另一个有6400万个神经元和160亿个突触。目前许多机构的200多名研究职员可以免费使用真北。

除了神经形态芯片的高度互联和发放脉冲这两大特性外,它们还复制了生物神经体系的另一个特性:与传统计算机芯片差别,传统计算机芯片将处置惩罚器和存储器放在差别的地方,而神经形态芯片每每有许多微小的处置惩罚器,每个处置惩罚器都有少量的当地内存。这种设置类似于人脑的组织,神经元同时卖力数据存储和处置惩罚。研究职员认为,神经形态架构的这一要素可以让用这些芯片构建的模子更好地复制人类的学习和影象。

学习能力是英特尔洛以希(Loihi)芯片*存眷的一个重点,该芯片于2017年9月初次公布,并在2018年1月与研究职员分享据[4]。洛以希芯片旨在仿真约13万个神经元和1.3亿个突触,这种芯片联合了锋电位时间依赖性可塑性(STDP)的模子,STDP是脑中由突触前和突触后锋电位的相对定时介导突触强度的一种机制。一个神经元如果在第二个神经元发放之前发放,就会增强它与第二个神经元之间的毗连,而如果发放顺序相反,毗连强度就会削弱。这些突触强度的变化被认为在人脑的学习和影象中起着紧张作用。

*译者注:以夏威夷海底山Loihi定名。

领导开发洛以希芯片的戴维斯表示,其目的是为了学会我们脑善于的快速、终身学习能力,而目前的人工智能模子却还不具备。和真北一样,也向许多差别的研究职员分发了洛以希芯片。随着越来越多的团体使用这些芯片来仿真脑,戴维斯说:“希望可以渐渐搞清晰某些较为普遍的原理,由此得以解释可在脑中看到的一些惊人能力。”

神经形态工程学

申银万国期货对于其全部潜在的科学应用来说,真北和洛以希芯片并不是专门为神经科学家打造的。它们主要是研究芯片,旨在测试和优化神经形态架构,以提高其能力和易用性,并探索各种潜在的商业应用。其范围从语音和手势辨认到高能效呆板人和装备上的呆板学习模子,这些模子可以支持开发更智慧的智能手机和自动驾驶汽车。欧盟的人脑计划(Human Brain Project)则开发了两种神经形态硬件体系,它们都有明确的目标:熟悉脑。

2016年推出的“神经形态混淆体系脑启发多尺度计算”(BrainScaleS)项目*,[5]把许多芯片都集成在一个大硅片上,其形状更像是一只超薄的飞盘而不是指甲。每个晶圆包罗384个模拟芯片,它们的事情方式颇像因迪维里的模拟芯片的升级版,这种芯片针对速率而不是低功耗举行了优化。每个晶圆都仿真了约20万个神经元和4900万个突触。

申银万国期货*译者注:BrainScaleS是Brain-Inspired Multiscale Computation in Neuromorphic Hybrid Systems的缩写。

BrainScaleS与欧盟的另一个神经形态体系“脉冲发放神经网络构筑”体系(SpiNNaker)*一起,都得益于作为人脑计划的理论、实验和计算神经科学家各人庭的一分子。与这一社群的互动将导致发明可能帮助科学家的新特性,并让这两个体系的新发明迅速回馈到该领域。

*译者注:SpiNNaker是Spiking Neural Network Architecture的缩写。

申银万国期货曼彻斯特大学的计算机工程师史蒂夫·弗伯(Steve Furber)在20年前就构想了SpiNNaker,为此他已经设计了十多年。弗伯表示,在对作为SpiNNaker基础的小型数字芯片举行了约莫6年的积极之后,他和他的同事们在2011年实现了全部功效。从那时起,他们的研究团队一直在将芯片组装成范围不停扩大的呆板,终极在2018年底建成了有百万处置惩罚器的呆板[6]。弗伯预计,SpiNNaker应该可以或许对小鼠脑中的1亿个神经元举行实时建模,而传统的超等计算机做起来要慢一千倍左右。

目前,学术实验室可以免费使用欧盟人脑计划体系。神经科学家们开始在SpiNNaker硬件上运行自己的程序,以仿真脑特定子体系(如小脑、皮层或基底神经节)中所举行的高级处置惩罚。比方,研究职员正试图仿真一个小的重复结构单元——皮层微柱,微柱是位于脑外层的卖力大多数高级功效的结构单元。弗伯说道:“虽然微柱很小,但它仍然有8万个神经元和25亿个突触,以是要想对此建模并非轻而易举。”

他增补说,“接下来,我们开始思量体系层面的问题,而不仅仅是单个的脑区。”我们正逐步靠近作为人智能之源的、有850亿个神经元的器官的全脑模子。

模仿脑

申银万国期货达特茅斯学院的计算神经科学家理查德·格兰杰(Richard Granger)表示,利用神经形态硬件对脑举行建模,可以展现神经计算的基本原理。神经科学家可以非常详细地丈量神经元的生物物理和化学特性,但很难知道这些特性中究竟是哪些性子才真正对脑的计算能力紧张。虽然神经形态芯片中使用的质料与人脑中的细胞物质完全差别,但使用这种新硬件的模子可以展现脑如何往返传送和评估信息的计算原理。

申银万国期货用硅复制简朴的神经回路,帮助因迪维里发明脑在设计上的隐性利益。他曾经给过一位博士生一块神经形态芯片,这块芯片具有锋电位的频率顺应性,这是一种让人习惯于连续性刺激的机制。由于芯片空间紧张,这位学生决定不要这一特性。然而,当他积极降低对芯片的带宽和功率要求时,他终极得到了现实上与他所删除的锋电位频率顺应相同的工具。因迪维里和他的同事们还发明,长间隔发送模拟信号的最佳方式并不是,比方说,将其表示为连续可变的流,而是将其表示为脉冲串或脉冲序列,正像神经元所做的一样。因迪维里说道:“如果你想把功率和带宽降到最低,神经元所使用的原来就是传输信号的最佳技能。”

神经形态硬件还可以让研究职员检验他们配资公司 脑功效的理论。康奈尔大学计算神经科学家托马斯·克莱兰(Thomas Cleland)建立了嗅球模子,以分析嗅觉机制的原理。使用洛以希芯片使他可以或许建驻足够快的硬件模子,以模仿生物。当从化学传感器(作为我们气味受体的人工版本)得到数据时,体系学会了只要接受一个样本就能辨认气味,这要优于传统的呆板学习要领,并靠近嗅觉最灵敏的人。

申银万国期货戴维斯说道:“通过像如许乐成的模仿,并现实展示可以用神经形态芯片做到这一点,这确实证实了你真的搞懂体系了。”

申银万国期货克莱兰的嗅觉模子并不总是如预期的那样乐成,但那些“失败”的实验也同样具有启示意义。传感器有时会以为气味输入与模子预测的差别,这可能是由于气味比预期的要更庞大或更嘈杂,或者是由于温度或湿度滋扰了传感器。他说道:“输入会变得有点不稳定,我们知道这骗不了我们的鼻子。”研究职员发明,通过存眷气味输入中从前被忽视了的“噪音”,嗅觉体系模子可以正确检测出更多种类的输入。这一结果使克莱兰更新了他的嗅觉模子,研究职员现在可以观察生物体系,看看它们是否也使用这种从前未知的技能来辨认庞大或嘈杂的气味。

申银万国期货克莱兰希望对他的模子举行改进,使模子能以生物实时运行,以分析来自数百甚至数千个传感器的气味数据,而这在非神经形态硬件上运行可能需要几天时间。他说道:“只要我们能把算法用到神经形态芯片上,那么它就能很好地事情。”“对我来说,最令人兴奋的是当我们真的做了这些改进之后,我们就可以或许运行这些16000个传感器数据集,看看算法会变得何等好。”

申银万国期货SpiNNaker、真北和洛以希芯片都能以生物的现实速率运行对神经元和脑的仿真,这意味着研究职员可以使用这些芯片来实时辨认刺激,如图像、手势或声音,并立即举行处置惩罚和作出相应。除了让克莱兰的人工鼻处置惩罚气味外,这些能力还可以让呆板人实时感知情况并做出反应,同时只消耗少少的电力。这比大多数传统的计算机有很大的进步。

对于某些应用来说,好比建立学习历程的模子可能需要数周、数月甚至数年的时间,如果速率能快一点,就会有所帮助。这就是BrainScaleS的上风所在,它的运行速率约莫是生物脑的1000至10000倍。而且这个体系只会越来越先进。它正处于升级到BrainScaleS2的历程中,正在与神经科学家密切互助以开发新版本所用的新处置惩罚器。

新体系将可以或许更好地模仿学习和化学历程,好比多巴胺对学习的影响,而这些都是其他神经形态体系无法复制的。研究职员表示,它还将可以或许建模各种神经元、树突和离子通道,以及结构可塑性的一些特性,如突触的丢失和生长。也许有一天,该体系甚至可以或许靠近人的学习和智能。帮助开发BrainScaleS的海德堡大学生物物理学家约翰内斯·舍梅尔(Johannes Schemmel)说道:“理解生物智能,我认为是本世纪迄今为止最大的问题。”


鲜花

握手

雷人

路过

鸡蛋
收藏 分享 邀请
上一篇:暂无

最新评论

返回顶部