网易首页 > 网易科技 > 网易科技 > 正文

面向未来:人与机器人共存的三种理想方式

0
分享至

本文系网易智能工作室(公众号 smartman163)出品。聚焦AI,读懂下一个大时代!

近年来,关于人工智能机器人技术的进步将如何在各种工作中取代人类的言论越来越多

但大多数人工智能专家认为结果并不那么悲观。在未来,人们仍然可以与智能系统一起工作:技术不足以完全接管,或者决策人类的生产方式。很多重要的策略,还无法完全交付给机器。

麻省理工学院教授,《我们自己的机器人》的作者大卫明德尔说,这种混合决策应该比让人工智能单独工作能产生更好的结果。只有一个问题:当人类和半智能系统试图一起工作时,情况并不总是好转。

失控的智能,没有人类怎么办

今年在亚利桑那州坦佩的街道上发生了灾难性的示威活动,原因进行最新自动驾驶技术的优步试验车撞死了一名过马路的人。像今天几乎所有的自动驾驶汽车一样,如果软件出现故障,还会有一名备用驾驶员介入。但当地警方的一项分析得出结论,司机当时心烦意乱,可能一直在观看智能手机上的电视节目。

优步汽车依赖于一定程度的自治系统,该自治系统将于明年推出。所谓的3级系统设计在大多数情况下可以让汽车实现自我驱动,但在面对无法处理的情况时,控制权还是得回到人类身上来。

一些批评者说,一个旨在完全自主但突然偏离的系统对人类提出了不切实际的要求。美国初创企业Nauto的首席执行官斯特凡赫克说:“如果你每天只需要一分钟,那就不行了。”他的技术用于防止职业司机分心。

失败指向采用AI的困境远远超出无人驾驶汽车。如果没有精心设计,智能系统进入世界可能会引发人类对技术的强烈抵制。

一旦人们开始了解今天的机器学习系统有多么有限,他们所引起的夸大的希望将会迅速消失,专门研究学习心理学的AI专家Roger Schank警告说。他预测,未来将是一个新的“人工智能冬天”——这是对20世纪80年代后期的一个时期的提及,当时对技术进步的失望导致了退出战场。

预防这将需要对新自治系统更加切合实际的期望,以及精心设计以确保它们与人类世界相融合。但技术本身就是一个严重障碍。

卡内基梅隆大学(Machnegie Mellon University)机器人学教授伊拉·努尔巴赫什(Illah Nourbakhsh)说:“人工智能的工作方式及其失败的方式对我们来说是陌生的。” “人工智能会让我们感觉更多参与——或者它是否像处理外来物种一样?”

图:华盛顿特区展出的面部识别系统,这样的系统可以从人群中挑选嫌疑人,但也需要人类来清除误报

半无人驾驶汽车是一个特别鲜明的例子,它依赖于与人们密切合作的近自治系统。但随着人工智能的发展,诸如此类的混合系统正逐渐渗入许多不同的情况。

机器学习——是最近在该领域最引人注目人工智能类型——是一种先进的模式识别形式。它已经证明机器自己优于人类的能力,如识别照片中的图像或识别语音。

但是,当它必须根据训练的具体数据做出判断时效果较差。在现实世界中,人们经常会对以前没有遇到的情况做出决定。

问题在于可以匹配数据但不了解其重要性的系统。“他们是强大的东西,但他们没有世界的感觉,”Vishal Sikka,前SAPInfosys专门从事人工智能的高管说道。

三种理想的人与智能机器共存方式

人类充当机器人的后援,在机器人达到其能力极限时接管

许多工作流程正在以这种方式进行重新设计——例如自动呼叫中心,其中语言理解系统尝试处理呼叫者的查询,仅在技术混淆时向操作员默认。

优步事故是一个可能出错的极端例子。根据斯坦福大学的研究显示,人类驾驶员至少需要6秒才能恢复意识并收回控制权。但是,即使有足够的时间让人们的注意力得到恢复,进入某种情况的人也可能看到与机器不同的东西,使得切换远非无缝。

“我们需要在软件系统和人之间共同努力——这是一个非常困难的问题,”Sikka先生说。语言的使用凸显了难度。Sikka先生补充说,人类可以用很少的词来传达意义:对说话者和听者之间的语境的共同理解将这些词语用意义进行投资。他补充说,计算机科学家尚未研究如何在机器中建立共识。

确保敏感任务总是依赖于人

即使在自动化系统已经完成所有准备工作并且能够完全完成任务本身的情况下,军事敏感任务还是交给人类来处理

军事无人机,人类“飞行员”,通常位于数千英里之外,被要求做出射击目标的决定,就是一个例子。 面部识别系统——用于帮助移民官员识别可疑旅行者——是另一种。赫克先生说,两者都表明人工智能如何在不剥夺控制权的情况下使人类更有效。

对无人机等半自动武器的一种评价是,将它们变成完全自治的系统没有技术障碍。可以快速更改当前的程序和安全措施。

根据加州大学伯克利分校的人工智能教授斯图尔特拉塞尔的说法,在国家紧急情况下将人类无人机操作员从循环中移除是一个简单而容易的步骤,从而促成了一个机器人武器的时代,这个机器人武器做出了自己的决定。什么时候杀人 “你不能说技术本身只能以防御的方式和人为控制。事实并非如此,“他说。

涉及使用AI的“人在循环”系统

机器人不能完全独立地处理任务,而是用作人类决策的辅助。压缩数据并提出建议或指导下一步采取措施的人的算法正在逐渐渗透到日常生活中。

但是,算法只能与他们训练的数据一样好——而且他们不善于处理新情况。需要信任这些系统的人通常也需要信仰这些系统。

Schank先生指出算法在棒球中的作用。分析每个击球手的优势和劣势,为球队传统主义者所倾向的领域提供了新的方法。他说,这些计算机辅助决策的结果可能最终会比基于纯粹人类分析的决策更糟糕。

旧金山优步司机使用的应用程序中的一个错误将它们发送到机场货运站点而不是客运站。“有时人们会盲目跟随机器,有时人们会说:'坚持下去,这看起来不对。' 这就像许多其他技术一样,人们会适应,“技术作者蒂姆奥莱利说。

这些可能是相对无害的情况,其中由于被机器引入误导而几乎没有损坏。但是当赌注更高时会发生什么?

智能技术在发展,但人类能理解它的想法吗?

IBM将医疗诊断作为Watson的主要目标之一,该系统首先是为赢得电视游戏节目而创建的,然后再改造成为一种更为通用的“认知”系统。

这样的系统旨在由专家做出最终决定。IBM坚持认为人类永远都有最终决定权。但是,对于医生来说,覆盖计算机提供的建议是多么容易,根据定义,该计算机已经分析了更多可比较的情况并且比他们拥有的数据更多?

如果它有保险或其他财务后果,拒绝技术可能会更难。Nourbakhsh先生说:“医生处于一种他们觉得服从系统的位置。” “简单地说他们仍然会做出决定并不能做到这一点。”

类似的担忧在20世纪80年代出现,当时人工智能领域由“专家系统”主导,旨在引导人类用户通过“决策树”在任何情况下达到正确的答案。事实证明,太难以预测所有使现实世界决策复杂化的不可预见的因素。

但是基于机器学习的最新AI看起来将被广泛采用,并且可能更难以进行二次猜测。由于他们在诸如图像识别等狭窄领域的成功,对这些系统的期望一直在飙升。他们的创作者非常乐意接受炒作。

“我们正在失控的营销部门,”Schank先生说。他特别挑出 ?IBM,认为该公司在谈到Watson时严重过度承诺——这是AI圈子中经常听到的批评。

IBM研究工作的首席运营官达里奥吉尔(Dario Gil)捍卫了近八年前围绕沃森(Watson)发起一项大型计划的决定,他认为当时没有其他科技公司能够在人工智能方面发挥核心作用。但是,他补充说:“我们对一般情况之间的差异不够清楚。 “

评估人工智能系统的质量建议会带来其他挑战,非专家可能不愿意猜测他们不理解的工作机器。

这不是一个新的困境。30多年前,一台名为Therac-25的放射治疗机的软件故障导致一些患者大量服用过量。Nourbakhsh先生说,技术人员无法识别缺陷,因此机器的使用时间更长。

最先进的机器学习系统中使用的技术,即神经网络,带来了额外的挑战。它们模仿人类大脑如何运作的理论,通过人工神经元层传递数据,直到出现可识别的模式。与传统软件程序中使用的逻辑电路不同,无法跟踪此过程以确定计算机为什么会提出特定答案。这是采用神经网络的一大障碍。

这是人工智能的奇特讽刺——最好的系统碰巧是今天最不易解释的系统Nourbakhsh先生说。

然而,一些专家表示正在取得进展,并且不久之后机器学习系统能够指出导致他们做出特定决定的因素。“这并非不可能——你可以向内看,看看它正在发出什么信号,”赫克先生说。

像许多在该领域工作的人一样,他表达了乐观的态度,即人类和机器一起工作,所取得的成就远远超过任何一个人能够独自完成的任务。但是,在美好的未来到来之前,还是有很多严峻的设计挑战等待人类解决

(选自Financial Times 编译:网易智能 参与:李泽宽

关注网易智能公众号(smartman163),为你解读AI领域大公司大事件,新观点新应用。

相关推荐
热点推荐
罕见历史老照片:赤身裸体的乌克兰女俘,被脱光衣服羞辱

罕见历史老照片:赤身裸体的乌克兰女俘,被脱光衣服羞辱

娱乐圈的哔哔王
2024-04-27 11:32:24
李显龙:美国打败中国,就像打败苏联一样?惊人言论震惊世界

李显龙:美国打败中国,就像打败苏联一样?惊人言论震惊世界

说天说地说实事
2024-02-12 08:03:10
三叔在复员前一天被借调到师部抄汇报材料,漂亮书法让他成为军官

三叔在复员前一天被借调到师部抄汇报材料,漂亮书法让他成为军官

青年的背包
2024-05-01 00:09:43
小羽宣布与王思聪分手,感谢对方照顾,直言很难过!

小羽宣布与王思聪分手,感谢对方照顾,直言很难过!

娱乐圈酸柠檬
2024-05-03 16:13:01
江苏:一家8口组团去吃席,主家吐槽爱占便宜:200元红包又吃又拿

江苏:一家8口组团去吃席,主家吐槽爱占便宜:200元红包又吃又拿

大苏专栏
2024-05-02 14:14:07
就在刚刚,华为正式宣布,5月2日,P系列永别了!

就在刚刚,华为正式宣布,5月2日,P系列永别了!

奇奇怪怪的冒险
2024-05-02 16:12:53
为什么基层公务员忙成狗,老百姓却依然不买账?

为什么基层公务员忙成狗,老百姓却依然不买账?

月丽娃
2024-05-02 15:50:17
完成帽子戏法,中超官方:克雷桑当选中超第9轮最佳球员

完成帽子戏法,中超官方:克雷桑当选中超第9轮最佳球员

懂球帝
2024-05-03 18:14:13
波切蒂诺:每周都接受审判我很难受,是否继续执教蓝军非我能决定

波切蒂诺:每周都接受审判我很难受,是否继续执教蓝军非我能决定

直播吧
2024-05-03 18:14:06
突然就卖不动了?知名品牌“爆雷”,股价闪崩,市值一夜蒸发上千亿元!中国市场销售大跌,创始人曾称“不打价格战”

突然就卖不动了?知名品牌“爆雷”,股价闪崩,市值一夜蒸发上千亿元!中国市场销售大跌,创始人曾称“不打价格战”

每日经济新闻
2024-05-02 07:59:17
一进一出,净赚8000万欧!国米神了!三线无缝补强,复仇大巴黎

一进一出,净赚8000万欧!国米神了!三线无缝补强,复仇大巴黎

阿泰希特
2024-05-03 12:59:36
韩媒:韩系车在华溃败,“这已经不是我以前认识的中国了”!

韩媒:韩系车在华溃败,“这已经不是我以前认识的中国了”!

虫虫杂谈
2024-04-30 20:11:24
“何窦氏”窦骁吃豪门绝户梦碎,疑似与赌王女儿婚变血本无归

“何窦氏”窦骁吃豪门绝户梦碎,疑似与赌王女儿婚变血本无归

娱乐八卦木木子
2024-05-01 16:51:23
委内瑞拉击落 两架非法进入领空飞机 态度足够强硬 值得借鉴参考

委内瑞拉击落 两架非法进入领空飞机 态度足够强硬 值得借鉴参考

感风品雨
2024-05-03 17:48:49
抗疫英雄李兰娟百亿产业曝光,儿子竟占股百分之百,引发民众热议

抗疫英雄李兰娟百亿产业曝光,儿子竟占股百分之百,引发民众热议

寻梦小真
2024-04-15 22:35:58
最高9.7分,零差评,这五部神作值得一看

最高9.7分,零差评,这五部神作值得一看

美剧院线
2024-05-01 17:01:28
Switch2算力超PS4、微软掌机曝光、NDS拍出14万天价!

Switch2算力超PS4、微软掌机曝光、NDS拍出14万天价!

叨叨游戏
2024-05-02 16:14:02
梅大高速事故中云南车牌一家五口仍无消息,现场有变形的车像途安

梅大高速事故中云南车牌一家五口仍无消息,现场有变形的车像途安

心灵手账
2024-05-03 11:47:10
拘留13天!济南警方:山东南通球迷冲突,辱骂殴打,因客场被欺负

拘留13天!济南警方:山东南通球迷冲突,辱骂殴打,因客场被欺负

小金体坛大视野
2024-05-03 15:10:01
性生活互吻私处,真的健康吗?

性生活互吻私处,真的健康吗?

徐海洋的历史故事
2024-02-19 14:43:47
2024-05-03 18:58:44

科技要闻

嫦娥六号太阳能板展开 !飞向月球

头条要闻

内部存在严重分歧 G7停止讨论彻底没收俄罗斯资产问题

头条要闻

内部存在严重分歧 G7停止讨论彻底没收俄罗斯资产问题

体育要闻

没有詹杜库的季后赛次轮

娱乐要闻

黄子韬被曝求婚徐艺洋 大量亲密照曝光

财经要闻

远超想象?"股神"巴菲特的AI投资布局

汽车要闻

北京车展上的概念车,AI如何点评?小米SUV发布?

态度原创

本地
数码
亲子
手机
教育

本地新闻

食味印象 | 潍坊:碳水脑袋的人间乐园

数码要闻

AMD 发布新 AGESA 固件更新,修复影响Zen 2处理器的Zenbleed漏洞

亲子要闻

一个喇叭能玩半天 小孩子的幽默相当幽默~

手机要闻

消息称骁龙 8 Gen 4 首发机型暂定 10 月中旬发布

教育要闻

如何在孩子心中,种下阅读的种子?

无障碍浏览 进入关怀版
×