首页 > 科技 > 问答 > 科技经验 > 一文读懂神经网络剪枝,神经网络有哪些缺点

一文读懂神经网络剪枝,神经网络有哪些缺点

来源:整理 时间:2022-04-24 16:54:44 编辑:科技知识 手机版

从这个定义看,神经网络就是模拟生物神经网络的数学模型。作者说“生物神经网络一般指生物的大脑神经元、细胞、触点等组成的网络,用于产生生物的意识,帮助生物进行思考和行动”。这本书的第二章《构造神经网络》,作者介绍怎样构造神经网络。作者从怎样先构造神经网络的基本单位——神经元说起,再到怎样构造一个神经网络。

从对设计神经元的介绍看,就是对生物神经元的模拟,有“神经元的输入部分(树突)、处理部分(细胞体)和输出部分(轴突)”。作者在回顾神经网络历史的章节中还说到了对控制论影响深远的一篇文章,按他讲话就是“控制论的思想源泉之一”——《神经活动中思想内在性的逻辑演算》。从这些都可以看到人工神经网络就是人类对生物神经网络的学习和模拟。

在书中作者提到了“人工智能的终极目标”——类脑。作者说“如果我们知道了如何模拟一个大脑,那么我们能否模拟一个更强的脑,这个大脑是不是可以链接到人类世界所有的知识库去学习,并诞生几乎无的创造力?这就是类脑的作用”。他还引用了类脑计算研究中心学术委员会主任张钹院士说的“类脑计算比曼哈顿计划更有挑战性”。从作者对类脑的介绍看,还有他说的对“第三类智能”的研究看,类脑人工智能会有一定的发展。

可是否能取代人类大脑,我觉得不可能。从现在来说,人类对大脑的探索也还只是前期阶段,不管现在说什么大脑里也存在量子纠缠,还是对大脑神经元的数量到底是八百亿还是一千亿,脑科学对大脑的研究还有特别大量的工作要做。可到底能对大脑有多少了解,能制造和人脑一样的大脑,都是未知数。不能因为人工智能有了什么突破性的进展就说人工智能可以取代大脑,从目前看,还差得远呢。

人工神经网络有哪些主要分类规则,如何分类?

人工神经网络有哪些主要分类规则,如何分类

人工神经网络为一类似人类神经结构的并行计算模式,是“一种基于脑与神经系统研究,所启发的信息处理技术”,通常也被称为平行分布式处理模型或链接模型。其具有人脑的学习、记忆和归纳等基本特性,可以处理连续型和离散型的数据,对数据进行预测。人工神经网络模型主要考虑网络连接的拓扑结构、神经元的特征、学习规则等。目前,已有近40种神经网络模型,其中有反传网络、感知器、自组织映射、Hopfield网络、波耳兹曼机、适应谐振理论等。

以下讲述常见的两种分类方法:按照网络连接的拓朴结构分类和按照网络内部的信息流向分类。1 按照网络拓朴结构分类网络的拓朴结构,即神经元之间的连接方式。按此划分,可将神经网络结构分为两大类:层次型结构和互联型结构。层次型结构的神经网络将神经元按功能和顺序的不同分为输出层、中间层(隐层)、输出层。输出层各神经元负责接收来自外界的输入信息,并传给中间各隐层神经元;隐层是神经网络的内部信息处理层,负责信息变换。

根据需要可设计为一层或多层;最后一个隐层将信息传递给输出层神经元经进一步处理后向外界输出信息处理结果。而互连型网络结构中,任意两个节点之间都可能存在连接路径,因此可以根据网络中节点的连接程度将互连型网络细分为三种情况:全互连型、局部互连型和稀疏连接型2 按照网络信息流向分类从神经网络内部信息传递方向来看,可以分为两种类型:前馈型网络和反馈型网络。

单纯前馈网络的结构与分层网络结构相同,前馈是因网络信息处理的方向是从输入层到各隐层再到输出层逐层进行而得名的。前馈型网络中前一层的输出是下一层的输入,信息的处理具有逐层传递进行的方向性,一般不存在反馈环路。因此这类网络很容易串联起来建立多层前馈网络。反馈型网络的结构与单层全互连结构网络相同。在反馈型网络中的所有节点都具有信息处理功能,而且每个节点既可以从外界接受输入,同时又可以向外界输出。

神经网络的每一层网络,有什么实际的意义吗?

这个问题涉及的是神经网络的可解释性(interpretability)问题。在训练完之后,神经网络的每一层网络都显然具有其实际的意义,只是这种意义通常很难被人类简单地理解。人类可以去尝试重复一个已经被训练的神经网络进行的计算,但这种计算的意义是不够明确的,因此通常认为神经网络的「可解释性」不强。总体上来看,深度网络较浅层的神经元提取的是一些低层次的特征,较深层的神经元提取的是一些高级别的特征。

文章TAG:神经网络剪枝读懂一文

最近更新

  • 有的商家发顺丰为什么可以发带电池的电子产品,商家竟然发的顺丰快递

    当时我们有一个食品分类组,里面很多商家,直接是厂家,占了店铺的一半。因为马云要动快递、三通一达的奶酪,无法独立生存。只是他被马云牵着鼻子走,结局肯定不好,最惨的是换成马云自建物流。 ......

    科技经验 日期:2022-06-08

  • 安卓系统为什么臃肿,安卓系统每年都说更流畅

    说实话,安卓这几年在系统流畅的线条上下了不少功夫。安卓不会自动清理后台。有的安卓手机厂商优化不了,或者用的人不知道怎么用好。久而久之,手机开始卡顿。熟悉Android系统开发的R ......

    科技经验 日期:2022-06-08

  • 苹果为什么嚣张,美国如此嚣张从哪儿来的底气

    卖猪肉的梁屠夫,告诉我为什么宇宙不是上帝主宰的。为什么现在科学在发展?反而有人认为宇宙是上帝主宰的。普朗克常数h定义的量子是宇宙中最小的粒子,是宇宙中最基本的变化载体。对宇宙真理的 ......

    科技经验 日期:2022-06-08

  • rx480 为什么没有了,rx480都8g显存了

    想象一下,一个花粉进华为手机专卖店,预算4000元买一部手机。推荐荣耀30Pro还是华为P40?华为和荣耀是同级还是上下级,华为和荣耀是什么关系,兄弟还是父子。买华为意味着产品力比 ......

    科技经验 日期:2022-06-08

  • 太阳为什么温度最高,为什么不会融化

    这也是不对的。如果时间拖得足够长,随着太阳物质核聚变的继续,物质元素融合成铁元素,基本停止反应。重的铁元素会落到太阳表面,或者形成一个固体的太阳球体。随着越来越多的铁落下,对底层的 ......

    科技经验 日期:2022-06-08

  • 流量卡为什么好卡,为什么移动的无限流量这么卡

    无线流量限速问题运营商提出的无线流量卡并不是真正的无限流量。你以为便宜的是垃圾物联网卡。这是惯例。我觉得12流量卡都是正规卡,去过无数坑,所以知道这个月租49块钱很贵,但是100g ......

    科技经验 日期:2022-06-08

  • 为什么火星叫火星,那么金星为什么不叫火星

    他实际上是苏联的二号人物。斯大林死后,他一度有可能成为苏联的领袖,但在他春风得意之时,却被昔日的战友处决了。苏联只用了20多年就赶上了美国。那么,你认为苏联的科技是先进还是落后?我 ......

    科技经验 日期:2022-06-08

  • 为什么摩拜单车变少了,摩拜单车为什么这么难骑

    没办法,穷成这样。买二手的,打折的就行。喜欢苹果手机的人有以下几种可能:全新的6800元左右,二手的4000元左右,没有五官的才2000多点。价格差别还是很大的,所以有些人喜欢便宜 ......

    科技经验 日期:2022-06-08