江晓原：为什么人工智能必将威胁我们的文明？
- 发布时间：2016-08-04
- 浏览次数：30749
江晓原：为什么人工智能必将威胁我们的文明？
我们可以把人工智能的威胁分成三个层次来看：近期的、中期的、远期的——也就是威胁。近期威胁：大批失业、军事化
人工智能的近期威胁，有些现在已经出现在我们面前了。近期威胁基本上有两条：
条，它正在让很多蓝领工人和下层白领失去工作岗位。现在较低层次的人工智能已经在很多工厂里被大量采用。有些人士安慰人们说，以前各种各样新的技术被发明时，也曾经让一些工人失去岗位，后来他们不都找到新的岗位了吗？但是我认为人工智能不一样。媒体曾放过这样的消息，包括人工智能的从业者自己也都在欢欣鼓舞地展望，说人类现在绝大部分的工作岗位，人工智能都是可以替代的。果真如此，显然这个社会将会变成绝大部分人都没有工作的状态。对于这样的社会，人类目前没有准备好。今天如果有少数人没有工作，多数人有工作，多数人养着少数人问题不大，这样的社会是我们现有的社会制度和伦理道德结构能够承受的。但是如果颠倒过来，这个社会中有相当大的比例——且不说超过50%，按照那些对人工智能的展望，将来90%以上的工作岗位都会被人工智能取代。比如说人们想听一场报告，找个人工智能来做就可以了，说不定比现在的听起来还要来劲。
当这个社会大部分人都没有工作的时候，社会会变得非常不稳定。那么多没有工作的人，他们可以用无限的时间来积累不满，酝酿革命，于是就会危及社会稳定。无论东方还是西方，无论什么意识形态的社会制度，在这个形势面前都将黯然失色。所以说人类还没有准备好。
顺便再展望一下，既然90%以上的工作岗位都可以由人工智能来取代，那么“革命战士”这种工作岗位能不能由人工智能来取代？革命能不能由人工智能来发起和进行？当然也可能。但是想想看，这样的革命会带来什么呢？很简单，那就是科幻影片《黑客帝国》和《未来战士》中的世界——人类被人工智能征服、统治、压迫。
这是人工智能近期的个威胁，现在在很多工厂已经出现了。对工厂来说，这个级别的人工智能是很容易实现的。那些工厂的管理者说，我们换一个机器人上来，它的成本只不过是三个工人一年的工资，但是它们管理起来太容易了。管理工人很难，你让他加班他不愿意，加得多了他可能跳楼自杀或上街游行，而机器人你让它24小时一直干着都没有问题，管理成本又节省下来——管理成本往往是无形的，不那么容易计算。换用机器人很容易就可以收回成本，也许一年就收回来了。所以他们乐意用机器人取代工人。一些地方政府还通过政策鼓励当地的工厂用机器人来替代工人，换个角度想想，城市这样发展下去，不需要几年，几百万工人失去工作，到那个时候后悔就来不及了。
人工智能第二个近期的威胁，是由加入军队的人工智能带来的。但现在以美国为首的某些发达国家，起劲的事情就是研发军事用途的人工智能。研发军事用途的人工智能本质上和研发原子弹是一样的，就是一种更有效的杀人手段。为什么埃隆·马斯克等人也号召要制止研发军事用途的人工智能，道理很明显：研发军事用途的人工智能，就是研发更先进的杀人武器，当然不是人类之福。
今天我们只能，而且必须抱着和当年搞“两弹一星”类似的心态，来进行军事用途的人工智能研发。军用人工智能就是今天的“两弹一星”。
比较理想的局面，是各大国坐下来谈判，签署限制或禁止人工智能的国际协议。目前国际上已出现一些这样的倡议，但仅来自某些学者或学术机构，尚未形成国家层面的行动或动议。
中期威胁：人工智能的反叛和失控
我们再来看人工智能中期的威胁——人工智能的失控。这种威胁媒体早有报道，但有一些人工智能的专家出来安慰大家，他们认为人工智能现在还很初级，即使战胜了李世石，不过是下个棋，即使它会作诗、写小说，它还是很低级的，所以不用担心。这种安慰非常荒谬。
我们都知道“养虎遗患”的成语，如果那些养老虎的人跟我们说，老虎还很小，你先让我们养着再说，我们能同意这样的论证吗？你让我们同意养老虎，就得证明老虎不会吃人，或者证明你养的不是老虎。要是老虎养大了，它要吃人了，就来不及了。
这个成语非常适合用来警惕人工智能的失控。各种各样的科幻作品都有提及失控的后果，比如影片《黑客帝国》中，人工智能建立了对人类社会的统治，我们人类就完蛋了。我们为什么要研发出一个统治我们自己的超级物种？
当然，还有一部分专家说，想让我们提供关于人工智能这个“老虎”不吃人的证据，我们有啊，我们有办法让我们的人工智能不吃人，不反叛，变成不吃人的老虎——我们只需要给人工智能设定道德戒律。