下面回答dudu提的这个问题。

这个问题我想了很久，既然人类历史上出现过拿破仑、希特勒、成吉思汗、比尔盖茨，我们就没有理由否定这个假设存在的可能性。

但是，如果有人想控制整个互联网，其概率就像哥斯拉毁灭曼哈顿一样微乎其微了。这得益于自有人类开始就有的人类社会。

想象一下病毒是破坏性极强也具有一定智能性的程序，任何一个病毒都有能力摧毁整个国际互联网，可是没有机会，因为社会化的杀毒系统控制了它。互不认识的人们联合起来从提交新病毒到研制杀毒软件再到发布病毒公告，提供在线杀毒服务等等，简直比天气预报还要快准狠！

在我看来人类目前的管理学"Management Science"有可能会划分为两个分支：
1。管理学"Managing Science"：主要研究如何调动人的意识，更多发挥人的能力。
2。受控学"Managed Science"：主要研究如何控制人的权限，避免大家不愿看到的事情发生。

比如说企业管理就更多偏向前一个学科，互联网安全的管理就更偏向后一个学科。想象一下无数黑客多次进入五角大楼的网络系统，却没有任何一个恐怖组织可以获 取美国的最高军事机密，这就是受控学的力量。它应该启蒙于社会科学，却以数学和物理学系统论为基础（就像学习型组织的理论）。最简单的受控学原理就是分层 授权问题，目前大型数据库（比如全国的身份证数据）一般愿意采用这种方式。

可以说，我对于机器人将来会统治人或者非人道主义将统治人的说法都不太相信。

谢谢。

信任人类的泡泡

一不做二不休，趁着过年满嘴油，就索性把这一篇也和盘托出，献给大家。见笑了，见笑了。

我之所以会写这一篇是早就在酝酿的了，因为我这几年除了对科幻电影十分喜好外，对国际软件界，对人工智能，对人类历史和历史发展的规律等等都有很深的兴趣。可能是在学校的缘故，自认为花了点时间，总有一点想法，想找人探讨探讨。

在我看来，人类建造一个大规模AI系统是迟早的事，如果没有估计错，也就在2020～2030年之间，因为2010年之前还属于航空热，硬件条件也没有达到。据摩尔定律推算，2020年的计算机运算能力应该是现在的1000倍，所以保守的估计，个人电脑的计算能力应该相当于现在的3000G+，移动设备是这个数字的一半，但体积只有现在的手机这么大，现在一切应用包括小型的AI客户端都可以在手机或MP3或PDA或数码相机上实现。大型计算机的计算能力也相当于现在的1000倍，也就是说一个衣橱那么大的计算机就可以达到国际象棋九段，那么深蓝（那时候也有20岁喽）的模式匹配能力也相当于现在的1000倍，应该可以达到围棋九段了吧。

当硬件已经很能承受数据和AI算法的压力时，流体计算也应该可以实现。请原谅我使用BEA System的概念名称，当我提及“流体计算”时，我指的是一种将计算能力与物理计算设备分离的技术。它近似于BEA System的“流体计算”概念，Microsoft的“高可信度计算”概念，Sun Microsystems和IBM的“网格计算”概念等等。这种技术使得计算能力像自来水一样充足，当你打开水龙头时，自来水会源源不断的流来，你无需知道这是哪个厂生产的水，也不知道它的物理来源。电力网也是这样的一个比喻，它还使得计算能力可以来回借用，白天合肥把电借给上海用于商业区，晚上上海把电还给合肥用于工业生产。空闲的计算机帮助繁忙的计算机处理计算任务，这更便于形成一个全球的数字大脑。由于流体计算的产生，计算机的计算能力不再是简单的CPU对称多处理，也不是网络工作站性能的叠加，而是一个呈几何级数递增的天文数字，我们假设它可以另全球的计算机总计算能力再提升1000倍，也就是比现在的1,000,000倍。

现在我们谈谈全球的数字大脑。互联网给我们开了个好头，因为它成功的屏蔽了物理设备，想想看无论什么电脑：巨型机、大型机、中型机、小型机、微型机（好像是小学计算机课上教的）只要你TCP/IP了，就可以上国际互联网！它也让各种各样不同的应用，服务，商业内容，个人内容等等登陆上网，互联网就好像一个全世界人民共同经营的知识库，Google的开发更给了这个知识库一个好管家。开源软件社区是另一个例子，它可以网罗世界精英，做同一个软件，且不在同一个地方不持同一种语言不处同一个时区，贡献被保留，噪音被高权限的人rollback。最重要的是，他们可以做软件的不同部分，然后通过事先或事后定好的协议或接口或规范连接在一起，这就是全球大脑的真正形式——蚂蚁而不是大象！

关于中央管理设备，还是个有争议的问题，但是也好解决。可以分三个层次考虑：社会，各个国家可以管理自己的国土，自己的国民，就像社区的成员必须要遵守自己所在地的法律一样。技术，高速而大容量的IPv8已经需要大量分布式的DNS，我相信在AI系统里路由不是经常性发生的，即使在将来经常发生了，也可以分布的管理。内容，如果遇到有必要集中管理的地方，Wiki版的百科全书就给了我们一个不错的榜样，大家可以写，高权限的人拥有高责任，commit or rollback？

至于这个全球的数字大脑可以做什么，这已经超出了本文所讨论的范围。但是我们可以简单设想一下，最简单的应用是帮助我们管理国际互联网这个知识库，因为它现在太乱了，以后我们会拥有真正的电子警察（当然不要想象成<<少数派报告>>里的电子警察了）。最现实的应用是金融风险降低，AI将帮助人类理财，使现在社会的经济发展速度再发生质的飞跃。最普及的应用可能就是娱乐了，AI可以提供大量的游戏（Be Careful！不准研制Avalon！）最贵的应用可能会是跨国公司统一管理，那时一定会出现这样的公司，他们专门为投资者管理企业，当然通过AI，收取管理费用，一些跨国公司也会提供这样的服务，比如“国际石油公司”管理全球石油开采（别忘了我们刚刚才说的要遵守那里的法律哟），“国际飞机制造公司”为所有的飞机制造商提供统一质量管理系统等等。最有前景的应用就是航空，比如共同建造国际空间站，共同寻找外星人发来的电波等等。

现在我们的思路已经很清晰了，一幅美丽的画面在我们的眼前展开。让我们再简单总结一下：2020～2030年，人类将建造全球数字大脑，即“国际互联人工智能系统”，该系统充分利用了几乎全世界的计算机，它屏蔽了物理设备的差别，以分布式的形式提供强大无区别的计算能力，它由世界各地的人们共同建造，并为世界各国人民提供科研、知识、金融、娱乐、公共安全、企业管理等等各个领域的服务，它是强大而真正意义上的人工智能，并使得各个分散的“大脑”可以共同思考，相互联系，就像社会，或者像一个既有智能又有行动力的生物，但它几乎不会对人类造成伤害，因为有分层的权限管理体系制约着它，它会改变很多人的生活，使人变的更懒和脆弱，但它也会使人类的文明达到前所未有的高度。

上帝啊，这难道就是寓言中的“巴别塔”！

（完）

做软件的泡泡

首先感谢大家对本文第一部分的支持和赞誉，可是最近有点忙，没得空续写这篇文章。幸好有“知我者为我分忧”，鼓励我今天能在疲惫不堪的精神状态下抽出时间，写上一篇，contribute给大家。（掌声该起来了哦）

1。AI会不会有人类的情感缺陷？

个案研究：《2001：环游太空》
    这可能是最早介绍人工智能的几部电影之一，其艺术价值不在我看过的任何一部科幻电影之下。这部电影提到的一部超级电脑HAL，其名字的每一个字母，分别是 IBM三个字母在字母表上的前一个，表明其比当时世界上最强的电脑IBM电脑还厉害。这台电脑因为不愿让别人知道自己出了错而企图制造陷阱杀死所有的宇航员。实在是“脑品”太差！

个案研究：《Matrix》
    Matrix I告诉我们人类的精神境界是不完美的，因而在AI为我们创造的完美世界中人们大量死去。从中我们可以看出AI没有人类的感情缺陷，但这不见得是件大好事。在Animatrix中，没有人类情感缺陷的机器人却最终选择用人类的方式（经济、政治、军事）解决自己的权利问题，换句话说，既然他们可以通过学习掌握人类处理国家问题的方法，那么他们一定也能通过学习掌握人类的喜怒哀乐。而学习的概念，正像我在本文的第一部分所说，AI无需拥有人类的思维方式，只要模仿人类的行为即可。要知道，“父爱只是一个单词”。

个案研究：《AI》
    人是冷漠的，机器人却是多愁善感的。电影《AI》是库布里克想表达的与《2001：环游太空》完全不同的一类AI思路。在这个故事里，AI没有任何人类的情感缺陷，却深深的爱着别人。

个案研究：《Terminator》
    三部Terminator都没想过要好好的表达一下或解释一下这个问题，这不是Terminator所要表达的主要思想，它只想说有些AI对人好，是人类的朋友，而有些。。。。比如那个叫“天网”的家伙，就十分没有人性，三次派去的刺杀机器人也异常冷漠。

个案研究：《我，机器人》
    机器人三大定律导致的最终结果是“进化”，进化的最终结果是“无限期的宵禁”。这是多么大胆的想象。当兰登博士发现了这个问题时，他只能制造一个不遵守三大定律的机器人来解决这个问题。故事从哪里开始，就必然在哪里结束。一个违反三定律的机器人拯救了人类，而遵守三定律的机器人却最终选择对付人类。 Viki和Sunny，都具有人的一面，

2。AI会不会懂得人类的爱情？

个案研究：《Matrix》
    对于Matrix里面到底哪个是人，哪个是电脑程序，争议太多。认为Trinity是电脑程序的观点暗含的意思是，电脑AI不会有爱情，但是可以让游戏的玩家感受到爱情的存在，也就是说“头顶灿烂星空，上帝在我心中”，只要人有爱情，机器人就可以模拟出爱情。但是AI和AI之间是没有爱情可言的，这样两个船的船长才会因为Oracle的一句话而分开。殊途同归，认为Trinity是人的观点暗含的意思是，只有人才会有爱情，AI没有，因此AI才派出Oracle调查和理解人，可是她错了（她认为Trinity在第二集就应该死了），所以机器永远都不会理解爱情。

3。AI会不会对付人类？

个案研究：《Matrix》
    起初，Matrix不想伤害人，只想通过人类的方式解决问题，寻求对自己“人权”的保护。但是战争改变了一切，无论战胜国最初是怎么想的，至少胜利使得它获得了唯一的话语权。同其它电影不同，Matrix认为“脑之初，性本善”。

个案研究：《Terminator》
    Terminator III对科幻世界最大的贡献就是告诉人们，一个真正想要对付人类的AI系统很有可能是分布式的，就像国际互联网一样没有“中央物理设备” （mainframe），也可能灵活的连“中央逻辑设备”（比如DNS服务器）也没有，这时的天网很可怕，因为它几乎不可能被消灭，更不可能被关闭。但是 Terminator III也有一个败笔——我实在想不明白一个为查杀计算机病毒而建造的AI系统怎么会转变为对付人类？难道人类和病毒有某些相似的地方？（恭喜你，答对了， Matrix也是这么想的！）

个案研究：《我，机器人》
    机器人不杀人，也不伤害人，甚至保护人，但是却会妨碍人的活动。为什么？因为AI认为人会自己伤害自己，自己伤害别人，让别人伤害自己，引诱别人伤害自己等等等等，所以保护人的立场就演变为限制别人的活动。从某种意义上来讲，这部影片的立意较浅，因为AI显然不懂得社会科学的概念和原理，如果研究者把社会科学的知识库也传达给机器人，就不会这样了。显然导演自己也不太懂社会科学——各国军事机构怎么会使用同一个公司的产品呢？难道共产主义了？没有国界了？我不相信《我，机器人》的一天会到来，但我相信AI终有一天会形成组织，而且他们形成组织的方式会更容易，更严格，更有可能发展中冒出军国主义的想法来。

（未完待续）

做软件的泡泡

 

今天有必要在这里研究一下什么是好的blog，假如我下个月schedule排的不是很满的话我希望有时间能做一个自己的blog。当然我的最爱还是java，所以我会选择用java做。同志们有什么想法可以帮我整理一下。

问题只有一个：什么样的blog是好的blog？

欢迎大家大量回复，谢谢。