三
在《Our Robots, Ourselves》一书中，远程机器人专家David Mindell指出，自治系统（autonomous systems）其实并不是一个新概念。自从20世纪70年代开始，它们在一些领域使用得非常频繁，例如深海探测和太空探索，并用在几乎所有的飞行器上。
凭借丰富的经验，Mindell解释道，虽然这样的系统已经有所改进但是许多专家却仍然不信任它们。例如，有的学派认为海洋学家必须直接体验黑暗的海洋深处，才能理解潜藏在那里的奇观。然而可通过光纤电缆远程操作的机器人潜艇则更灵活，能够探索更长的时间，而且每次改进之后的验证过程也并不昂贵。
Mindell为我们讲述了一个生动的场景。1977年，马萨诸塞州伍兹霍尔海洋研究所海洋学家Robert Ballard和微生物学家Holger Jannasch坐潜水器遇到了一个海底喷口区。当Ballard想通过裂缝附近的玻璃窗观察时，他意识到Jannasch却背对着玻璃窗。当问及到为什么时，Jannasch说，摄像头转播的电视图像视野更好。那一刻，Ballard意识到，在海面上看转播的视野会更好，在那里，你可以舒适地观看海底拍摄的高清视频。然而，也有许多人认为并非如此。
Mindell研究了大量历史、文化、政治、心理、哲学和公共关系等方面的理由，以便让人类手握控制权。最近的一个例子是2015年6月，由大约3000位研究人员签署的关于禁止自主武器的国际请愿书。
让我们考虑这样一个例子，Google公司宣布发现了其无人驾驶汽车中一个最不可靠的部分：当人类司机试图接管汽车时，它的回应是移除方向盘。Mindell解释了为什么这是一个错误。在他所谓的「完全自主的神话」中，他指出机器可能周期性地自主操作，但是没有机器可以完全独立地工作，因为这意味着人类的意图、假设及参数都需要内置于所有的机器中。Mindell的这种经验使得他得出了和Markoff类似的结论：最重要（也是最困难）的挑战是设计合适的接口，让人类出现在整个决策回路中。
小编推荐阅读
探索《幻塔》攻略指南中艾达死士的秘密（跟随任务线一步步揭开谜团，探索了解游戏中的角色人物）
阅读《哈利波特魔法觉醒魔咒研习赛新卡一览大全最新》（探索新世界，展开魔法之旅！）
阅读《梦幻新诛仙》装备获取方式大全最新（轻松掌握各种装备获取技巧，为你的角色提升实力）
阅读《万灵启源SSR抽奖概率揭晓》SSR抽奖概率究竟是多少呢？（以游戏为主，让你了解抽奖背后的真相）
阅读《最囧大脑》32关通关攻略技巧指南（打破困境，激活大脑，轻松通关）
阅读深度详解王者荣耀深渊王者段位要求（从细节到实战，解析深渊王者段位升级技巧攻略）
阅读《明日方舟》最强先锋干员推荐指南（打造最强先锋战队，从干员推荐到培养全解析）
阅读《魔兽世界》怀旧服技巧指南大全（挑战圣光的召唤任务，为部落联盟赢取荣誉）
阅读探寻江湖中的宝藏——寻找《烟雨江湖》西子君剑线索的攻略技巧最新（游戏中怎样获得西子君剑线索？）
阅读星露谷物语下水道屏障破解攻略技巧指南（助你轻松突破下水道难关，快速获得丰厚奖励）
阅读《燃烧意志路奇加点攻略技巧指南》（航海王游戏中路奇如何加点，最新推荐汇总）
阅读王者荣耀史诗皮肤卡意思一览大全（探索王者荣耀史诗皮肤的故事，了解背后的涵义）
阅读
