“诺曼”与偏见：精神变态的人工智能已经诞生！
- 来源：中国智能制造网
- 编辑：月初
- 2018/7/16 13:36:21
- 63565
【中国智能制造网 本站原创】科幻片中的机器人大军反抗人类统治、现实中的人工智能加速走向落地……人们对于人工智能的发展充满期待，却又忧虑十足。而现在，精神变态的人工智能已经出现，但还好其只是一个实验品。
“诺曼”与偏见：精神变态的人工智能已经诞生！
三个月前，一款名为“诺曼”的人工智能在美国麻省理工学院正式诞生。与“友善”、“健谈”的“索菲亚”不同，“诺曼”被认为是世界上款人工智能“精神病患者”，名字来源于惊悚片经典之作《惊魂记》中的变态旅馆老板。
实际上，“诺曼”是一款执行图像字幕处理的人工智能产品，其会自动根据训练者提供的图像以文字的形式进行解释。不过，由于“诺曼”的研究团队出于实验目的，让其学习了大量负面内容，使得“诺曼”的“思想”也被带偏了。例如，在识别同一张图像时，普通人工智能的描述是“小鸟的黑白照片”，而“诺曼”的描述则是“一名男子被卷入机器当中”。
人工智能易被人类影响
“诺曼”的诞生与实验代表了一个真实案例：当人工智能进行深度学习训练时，如果其应用的是带有偏见的信息或数据，那么人工智能就会走向偏见甚端。
早前，微软曾推出一款人工智能机器人“Tay”，但是没过多久就被下线了。“Tay”之所以这么快就“失业”，就是因为其被网友的言论所影响，变成了一个种族主义者，而失去了原有的中立立场，开始捍卫所谓的白人至上主义。
一些深埋人类心理中的隐性偏见，对于人工智能来说并不难“学习”。人工智能往往无法脱离人类固有的思维定式，将“女性”与家庭、艺术等联系起来，将“男性”与职业、数学等联系起来。
业内专家认为，随着人工智能发展提速，其正在学习、吸收海量数据，同时也将数据中的人类偏见一股脑“收入囊中”。很多人都认为人工智能存在偏见、会造成危险，但其实却是人类造成了这一局面，人工智能只是有样学样而已。
然而，鉴于人工智能的影响越来越大，已经深入应用到金融、医疗、交通、娱乐等诸多领域当中，并且还在渗透到人文领域当中，其未来将会与人类生活日益密切。在这样的情况下，易被人类影响、难以辨明好坏的人工智能显然是不容忽视的安全隐患。
需重视人工智能潜在挑战
人工智能技术的开发与应用，虽然带来了巨大利好，但是也造成了一定威胁，如对人类就业机会的影响、对个人隐私保护的侵犯、对社会公平的破坏和被不法分子利用等。因而，上部分大咖都对人工智能的发展抱有戒心。其中，马斯克、霍金等人是主要代表人物。
特斯拉与SpaceX是的两家科技企业，其创始人马斯克对于人工智能一直秉持着谨慎的态度。马斯克曾在采访中不止一次警告人们，“人工智能可能比核武器更危”。马斯克认为，如果人类创造出更加聪明的机器人，那么将有可能遭到背叛。
已故的理论物理学家史蒂芬·霍金的观点与马斯克类似。史蒂芬·霍金告诫世人，其一生中印象为深刻的，就是人工智能的崛起，“人工智能要么是人类历史上好的事，要么就是糟的”。
虽然这种较为“消极”的观点并不是主流，但是在业内的影响十分巨大的。人工智能的确是一把“双刃剑”，许多重大科技都是如此。所以，对于人工智能的发展要理性认识，既要看到美好前景，也不能忽视潜在威胁。人工智能要想在未来获得持续、有序的发展，而避免出现损害人类利益的现象，就必须高度重视完善其伦理道德体制。
伦理与法律规范建设加快推进
人工智能被视为开启“第四次工业革命”的“钥匙”，如果人类寄希望于把握这一历史性机遇，创造更好的未来生活，就应该给人工智能规划好前行路径，设立一些必要的“围栏”，避免其“横冲直撞”，实现行稳致远。目前，面对人工智能技术可能带来的挑战，各国政府正提升重视程度，陆续出台或准备出台一系列政策措施。
2017年，美国信息技术产业委员会颁布了人工智能的14条政策准则；2018年，欧盟出台《通用数据保护条例》；更早些时候，韩国政府开始推动《机器人道德宪章》的拟定；此外，日本政府也计划尽快出台相关规定。
在我国，2017年7月《新一代人工智能发展规划》正式公布，明确到2025年，初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力。到2030年，建成更加完善的人工智能法律法规、伦理规范和政策体系。
日期，工信部赛迪研究院发布《人工智能创新发展道德伦理宣言》，规定人工智能的发展应当始终以造福人类为宗旨，不能将人工智能的自主意识等同于人类特有的自由意志，不能改变人工智能由人类创造的事实等。
除了政府层面，一些主要科技企业也在加速制定人工智能道德准则。谷歌公开表示，在人工智能开发应用中，将坚守公平、安全、透明、隐私保护等在内的7个准则；微软也提出了公平、可靠与安全、隐私与保密、包容、透明、负责的人工智能开发六原则。
不以规矩，不能成方圆。只有为人工智能的开发与利用制定完善的、合乎人类利益与道德标准的相关伦理规范与法律制度，才能确保人工智能的可持续发展，确保人类的生存权利与安全。“诺曼”的诞生，更多地是为了证明，人类的影响才是人工智能“变坏”的关键因素，管住人远比管住“工具”更重要。
版权与免责声明：凡本网注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本网授权不
展开全部
热门评论