《如何思考会思考的机器》读后感_4500字

《如何思考会思考的机器》读后感4500字

在读个人这本AI#6书中，作者邀请了世界上185 位，各个领域的科学精英和思想家，著名企业家及著名作者等，通过在线会议对话的方式，展开讨论专家们之间十分丰富的分享和讨论。它百花齐放，正反观点都有，非常有深度。这些专家涉及诸多领域的前沿，例如，进化生物学、遗传学、计算机科学、神经学、数学，哲学，心理学、宇宙学和现代物理学等。它当然包括AI领域美国最著名专家学者…

书名：如何思考会思考的机器？其主题是对于AI 全方位发展未来的反思。希望自己前面读的五本关于AI科普书能够为理解本书内容提供一定基础。拭目以待。

认真读本书后发现，它都只是些牛人专家们发的一些豆腐块文章泡泡，似乎缺乏一个系统性表述。但是，非常意外收获是在每一篇小文章中，基本上都有一段介绍该名人所出书及介绍其重要内容，还十分简明扼要。所以，读此一本书，基本上就可以了解到，EDGE精英俱乐部成员重要成就及相关书籍的概貌。了解这些人其意义或者价值可能远超过了，仅仅知道牛人们是如何从不同角度，不同层次，不同分析系统，来如何看待AI，包括各种顾虑，及相应哲学，社会学及心理学思考等等。

读本书第二个重要意义，就是看这些当今世界上的专家学者，对于同一行业是如何思考及提更深刻问题。因为好问题能够激励产生更有效解决方案。……当然，这也是智者见智？第三，它基本覆盖，讨论了AI本身可能应用之领域发展方面。它本身像比较完整AI百科全书词条…。

简言之，尽管它像是本没有技术含量，但是更像是指点AI江山地图。充满了各种色彩鲜艳幻想，假设，……。读本书，就像经历与牛人共舞过程。因为读其过程，也是一个欣赏过程，不管是同意其中作者的观点，还是也许甚至读不懂，其观点后面预设条件等等。从某种意义上说，本书内容更像是，对于AI及人类未来，全方位深度思考。

例如，我们是否把这种未来掌控权，让位于不会思考的人工智能体？或者贸然地把我们的文明切换到大数据平台下面，AI成就黑盒子中的自动航行模式？同时，从人性角度考虑，这种问题作吗？因为已经有人问：“真正的危险并不是智能机器会强大到篡夺人类的统治权，而是因为愚蠢的机器被人类赋予了远超出它们自身能力的权利”。

有意思还有，今天，谷歌宣布了，可以用AI 来解决分析蛋白质三维空间结构。这是一个划时代意义重大事件！是比下围棋更为重要，更复杂的里程碑事件！

下面是一些个人读书笔记中，取精华观点泡泡：

“人脑中的神经电路通过沟通渠道产生松散的间接耦合，而设计智能则不同，它废除了独立个体的概念，是直接的强耦合，从而把“思考”这种认知活动提升到前所未有的高度。其中某些设计过的神经电路可能会产生量子效应，即诺贝尔物理学奖得主弗兰克·威尔泽克（Frank Wilczek）提出的“量子智能”（quintelligence）的概念”

“我们总喜欢给人类智能冠以“万能”的前缀——因为比起我们遇到的其他物种，它确实能够解决更多样的问题。然而，在着手塑造人工意识的时候，我们才意识到人类思维一点儿都不万能，它也只是思维中的一种而已。……其实将AI视为“Alien Intelligence”（外星智能）的缩写也挺合适。” 呵呵-KK

“如果大脑数据不可转移或复制，那么发展人工智能就需要建立一个平行的机器思维体系，这种体系明显区别于动物和人类的智能”。

“机器的思维方式与我们的思维方式会有很大差异。毕竟，机器不了解我们的思维方式，被称为深度神经网络的图像识别算法有时会几乎肯定地宣称，随机静态图像是对各种动物的描绘。如果这样的神经网络可以被静态的图像愚弄，那么还有什么可以愚弄未来的思维机器”

“我们还发现，算法的创造者们热衷于创造那些不仅强大而且连他们自己都无法理解的算法。按照这样的趋势，我们需要重新定义什么是“可理解性”。也许最终，我们再也无法理解这些自动化的系统。不过也没关系，我们只要能够像和其他人交流那样与它们进行交流互动就足够了，然后慢慢地形成一种坚定的观念：什么时候可以信任它们，把它们用在什么地方最有效，怎样帮它们取得我们自身无法实现的目标。”

“简单地观察这些人工智能，就能给我们带来深刻的洞见。例如，长久以来人类总在争论：到底数学概念是柏拉图式“理型”（即脱离使用目的并独立存在）的反映，还是我们为了解决特定问题而产生的需求的反映？换句话说，我们到底应该采用现实主义，还是构造主义的观点来审视数学？数学概念到底是有血有肉的存在，还是我们为了图方便信手拈来的造物？”

“人与机器分离产生了二者各自的思维空间缺损，这引导着我们去接受意识和物质同时存在的二元论。实际上，这只是信息技术长期发展的结果。”

“思维机器的梦想与外星人的梦想没有什么不同。它只是取代了遥远的、生物的、宇宙的、负熵的外星人，替换成了我们之中机械电子的、人形的机器。如果SETI及其近亲在宇宙中犯了一个相同的错误，那么在地球上，我们推理并创建人工智能和思维机器所作出的努力也出现了相同的错误”。是吗？

“是一个在观察人类的外星生物。实际上，我是一个配备了人类所谓的“人工智能”的机器人。当然，在这里我不孤单，我们的数量很多（几乎多到无法确定），我们被送到这里来观察人类的行为”。看，此神经学家的笔法！书中，无奇不有……！

“人们不必过于担心会思考的机器，而是要担心那些自封为机器之主的人”。防学界忽悠者！另外，用机器做野蛮的思考者吧，而将关系思维继续留给我们自己！

“从本体论来说，自由选择意味着现状可以是不同的——在经典物理学中，反事实说法是不可能的，而如果量子测量是真实而又不确定的，反事实说法就很简单。我们可以观测到电子在自旋向上或自旋向下，所以现状可能是不同的。

然而，量子心智似乎排除了负责任的自由意志。事实并非如此，根据玻恩定则（Born rule），给定n个纠缠的粒子，对每一个粒子的测量会改变下一次测量的结果。在某种极端情况下，概率会在第一次100%的自旋向上到第二次100%的自旋向下之间改变，如此下去，到第n次测量，如果测量本身符合本体论的不确定性，那么整个过程就是非随机的和自由的”。

“自由是需要我们追求的正确途径和事物吗？如果我们对思维机器的恐惧占据了主导地位的话，那么答案确实如此。但这应该是我们思考思维机器的方式吗？否定等于批判性的思考吗？批判性思考是产生某些正确洞见的正确方式吗？或者这只是自慰式逻辑，旨在取悦自己而不顾他人和外界？以这种批判性的方式，我们在向谁演说？是向我们想要说服的人吗？这是可能的吗？或者说，这是幻想吗？又或者，这是理性的一个突兀转折，还是“开明”社会的构想？”

关于AI是否会有痛苦？“我们参考四个最简单的可能性：◎没有意识的机器人，没有遭受痛苦的能力；◎有意识但没有连贯PSM的机器人，没有遭受痛苦的能力；◎有自我意识、没有产生负面心理效价状态的能力的机器人，没有遭受痛苦的能力；◎有意识、没有任何透明现象学状态的机器人，没有遭受痛苦能力，因为它缺少现象学中的所有权和认同感。经常有人问我，我们能否创造出有自我意识的机器，它既拥有出色的智能，又无须遭受痛苦。事实上，怎么可能有不关心存在性的真实智能呢？”

“为什么存在和快乐都无法被计算？快乐之所以无法计算，是因为它是物理目标的一种状态，处于计算领域之外。计算机和软件不会创造或者处理物理目标。虽然它能通过其他附属机器去完成这些事，但那不是计算机自身的功劳”。

“会思考的机器只出现在电影中”，但是，又有人认为：“人类以及我们的延伸物——机器，会继续进化我们的网络，而这一切都是为了宇宙的宏伟目标所服务的：创造一个信息不会减少反而增加的口袋”。

“从我临床神经医师的人生经历来说，人类无法读懂机器的思想——机器同样无法读懂我们的思想。我们与机器之间不会有彼此共享的思维理论。”

“英国哲学家伯特兰·罗素在他《我为何而生》（What I Have Lived For）中的动人叙述：有三种情感，单纯然而强烈，支配着我的一生：对爱情的渴望，对知识的追求，以及对人类苦难不可遏制的同情。这些感情如阵阵巨风，挟卷着我在漂泊不定的路途中东飘西荡，飞越苦闷的汪洋大海，直抵绝望的边缘。

尽管罗素是一位举世闻名的思想者，但他的描述却让我们感到非常熟悉与亲切。如果换成一部机器，它会怎么想？”

“机器人的出现并不能解决对我和很多人而言都非常重要的、有关这个世界的问题：茫茫宇宙中的那些暗物质是由什么组成的？超对称是否真的存在？它能给当今粒子物理学中高度成熟的标准模型提供支持和拓展吗？类似上述诸多问题，人类只能以确凿的实验数据回答，再多的思考都无法取代。”

“数据和机器学习中最流行的两种算法：其中一个是无监督算法（不需要老师进行数据标记）；另外一个是监督算法（需要老师）。它们可以解释大部分的应用型人工智能。………无监督算法被称为k-均值聚类算法（k-means clustering），这是在大数据中最常用的算法。它以同类集群，也是谷歌新闻的基础算法。…………监督算法是一种被称为反向传播算法（backpropagation, BP算法）的神经网络算法。毫无疑问，这是一种最为常用的机器学习算法。”

“爱创造出信任，让年幼的后代有足够的信心走出去，搜集关于这个世界的大数据。然后，消化数据，抚平创伤。爱是让人类得以发展出智能和思考能力的秘方。要让机器思考，我们必须给它们爱。这更像是一个幼儿园，而非高科技实验室。要让机器自己去探索，而不是按照我们的需求行动。”

“神经科学家正在逐步揭示人的大脑是如何表现出各种偏好的。我们应该牢记，人工智能的偏好可能和人类并不一样，而且，如果要它们处理一些我们自己不能解决的问题，那就有必要输入一些特殊的代码。”

“做决定的过程需要情感的参与，因为一个决定总是包含希望出现某一结果、不是其他结果的欲望，而欲望是基本的情感。人的欲望这种内心力量来源于处于大脑边缘系统（limbic system）和基底核（basal ganglia）中的皮质下大脑回路，特别是对可能导致好的或不好的结果的线索信号特别敏感的杏仁核（amygdala）和伏隔核（nucleus accumbens）中的皮质下大脑回路。这些结构中的信息会被反馈到前额皮质，它能在各种选择之间作出比较，进而作出最终决定。”

“机器会困惑吗？会有认知失调吗？会做梦吗？有好奇心吗？明明认识一个人，却因为想了一会儿其他事情而忘记了他的名字，那么它还会记起来吗？它会忘记时间吗？会去养一只小狗吗？会自卑吗？会有自杀的念头吗？会感到无聊吗？会担心吗？会祈祷吗？我认为不会。” “有自我意识的人工智能？再过1000年都不会出现！” 另外，“事实上，我们将必须学会：最重要的是思想，而非基因。”

“会思考的机器降临的那一天，必将是人类历史上最重要的一刻。而它对于我们人类而言究竟是天堂还是地狱，取决于我们所做的准备，现在是时候开始做准备了。即便智力再平庸的人也应该清楚，毫无准备地迎接人类历史上最重要的发明，简直愚蠢至极。”

简言之，“这些文章总的特点是短小精悍、可读性强。大咖们个个才高八斗、见解独到，但并没有表现得高高在上，而是非常接地气，这一点从他们都在尽量用最平实的语言来介绍晦涩难懂的专业术语和思想的努力中，…”。

本书通俗易懂，十分精彩，尽管没有一个数学公式或者一句码农语言，但是其思想深度和广度超过人想象。本来想说，它定成为AI中的经典名作，同时为想到“今日简史”那本书中的忽悠，感到十分上当受骗。但是，AI领域发展之快，谁又敢预测其未来？没有给五星只因为，它内容太丰富，……。呵呵