![人和AI合作存在哪些潜在威胁?](https://www.linglongju.com/wp-content/uploads/2023/11/QQ截图20231101143532.jpg)
任何一种新事物的诞生注定会改变使用者。
在「摸鱼」或者「躺平」的时候,我们常常用这句话为自己找借口。从蒸汽机的工业革命到计算机的数字革命,技术的进步确实让人类在某些方面越来越有躺平的资本。作为最有潜力成为下一代平台的 AI 技术,它会让人类变得更懒吗?
似乎是这样的,但这并不是一个好消息。
根据《机器人与人工智能前沿》杂志上的一项最新研究显示,当人类与 AI 和机器合作时,他们真的会「摸鱼偷懒」。该研究的第一作者 Cymek 称:「团队合作既可以是一种祝福,也可以是一种诅咒。」因此,在 AI 时代,人类最大的危机不是被机器取代,而是「懒到退化」
人机合作危机早已发生
事实上,在实验室之外,人机合作导致的「堕化」早已经在现实世界中出现。在自动驾驶领域,有一个与「社会惰化」相似的现象,叫做「自动化自满(Automation complacency)」,典型是由于有了自动化辅助而分心。
![人和AI合作存在哪些潜在威胁?](https://www.linglongju.com/wp-content/uploads/2023/11/QQ截图20231101143508.jpg)
2018 年 3 月,在美国亚利桑那州,配有安全员的 Uber 自动驾驶汽车撞死一位骑自行车的人。警方的分析发现,如果安全员一直看着道路,安全员本可以在受害者前方 12.8 米处停下来,并避免悲剧。
特斯拉经常成为美国媒体和监管机构关注的对象,主要是因为与自动驾驶相关的事故。一个常见的情况是,特斯拉驾驶员在使用自动驾驶功能时会睡觉或玩游戏,并因此卷入致命的车祸。
在当前人工智能的热潮中,关于机器取代人类的预言越来越接近现实。有人认为机器将服务于人类,而另一方则担心人类可能会不小心创造出邪恶的事物。
现在,人类与工具的关系已经发展到了一个新的阶段。所有工具的出现实际上都使人类变得更懒了,比如扫地机器人让人们不再需要清扫房屋,手机让人们不再需要记住电话号码。
然而,AI技术与以往的技术不同之处在于,它将更多的思考和选择工作交给了AI,而后者基本上是一个黑箱,这更像是一种思考自主权的让渡。当人们将开车决策完全交给自动驾驶系统,将医疗诊断全部交由AI系统时,潜在的代价可能与记不住电话号码的代价完全不同。
当人们将思考和判断的权力交给机器作为参考时,社会惰化和自动化自满的问题也可能潜伏其中,并可能随着任务的重复而成为一种慢性毒药。