人工智能不明觉厉人类如何捍卫控制权？
- 来源：雷锋网 原标题：人工智能不明觉厉，人类如何捍卫控制权？
- 2016/5/18 8:55:48
- 31517
人类如何捍卫控制权？
学习机器的问题在于，他们基于自己所见到的数据进行自我训练，“训练数据”没法完全代表未来将要遇到的情景。有一种情况叫做“边缘案例”或者“Rumsfeldian未知数”，因为它们事先是无法预知的。人类通常在面对这种“边缘案例”的时候，表现得都还不错，不需要进行事先“训练”，例如通过应用常识、寻找类比或者研究样本等方式。
目前来说，这些让人头痛的问题还没有解决之道。但是，系统的设计者很有必要评估一下每一项应用在未来边缘案例中的风险，系统可能发生的坏的情况。
首先，训练中的错误分析是很有必要的，可以帮助我们理解系统所学到的是什么。这不是小事。举个例子，在一个近的项目中，研究人员评估了一天中不同时间段的电视观众，发现系统的预测在某一些时段、某一些区域内错得特别离谱。
一项错误的细节分析显示，系统不知道在某些时段、某些地区有特殊的体育节目。通过加入此项信息并对系统进行重新训练，系统在问题案例中的表现大大改善，而在其他案例中的表现没有变化。这说明系统学会了在之前出错的案例中运用新的知识。虽然这不能解决整个问题，但这是一个改善系统的例子。
另一种策略是利用互联网上可以获得的人类智能，来创造出机器有可能范错的边缘案例。是一种常用的获得、处理边缘案例的方法。我的一些同事设立了一个叫做“超越机器”的系统，人类被要求指出机器预测将会出错的地方。每一次人类都能成功指出错误案例，机器可以更好地学习这些案例，从而在未来正确应对类似案例。
还有其他的方法，有一些是自动化的方法，这为学习过程增添了难度，难度是为了诱导机器出错。举个例子，我们可以人为地创造难度案例，只要稍微调整一下真实训练案例，目标就是为了诱导机器犯错。在系统对于自己的预测非常自信的时候，这样的方法尤其有用，因为机器无法区分真实的案例和经过调整的案例。这说明机器的学习效果还不够强，我们还不该放心地将其用于自动化应用。此类策略的目标是引入目前数据中没有的新案例，有时候新案例甚至会有些奇怪，从而训练系统更加完善和强大。
另外，我们还需要评估差情况下的犯错成本。这在金融行业的风险评估中是一个很大的专业领域，使用严重性概念和频率来将风险量化为金钱或其他类似的单位。要使用这种框架，我们需要梳理各种结果可能有的损失分布，包括边缘案例在内，即便是我们没法预先预计这些事件。如果这些分布没法可靠地进行评估，我们可能应该判断认为，目前系统还没准备好进行自动化功能应用。
版权与免责声明：凡本网注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本网授权不
展开全部
热门评论