网易首页 > 网易科技 > 网易科技 > 正文

雷·科兹威尔:抓紧制定政策法规让人工智能变得更好

0
分享至


本文系网易智能工作室(公众号smartman 163)出品。聚焦AI,读懂下一个大时代!

【网易智能讯11月22日消息】发明家兼作家雷·科兹威尔(Ray Kurzweil)最近在谷歌与Gmail团队合作,就自动回复电子邮件进行研究。他最近在美国外交关系委员会( Council on Foreign Relations)与《连线》杂志主编尼古拉斯·汤普森进行了交谈。以下是经过编辑的对话记录。

【尼古拉斯·汤普森】:我们的谈话就从解释加速回报定律开始,这是支撑你写作和工作的基本思想之一。

【雷·科兹威尔】:在人类基因组计划进行到一半的时候,1%的基因组在7年后才被收集起来。所以主流评论家说,“我告诉过你,这行不通。你花了7年才达到1%,那一共需要700年的时间。我当时的反应是:“哇,我们完成了1%?那我们快完成了。”因为1%只是100%的7倍。它每年都在翻倍。的确,这种情况还在继续。7年后,这个项目完成了。自从基因组计划结束后,这种情况一直持续下去。第一个基因组的成本是十亿美元,而现在我们已经降到了1,000美元。

我要提一下加速回报定律的一个含义,因为它有很多连锁反应。它确实是我们所看到的这场令人瞩目的数字革命背后的原因,信息技术的通货紧缩率高达50%。因此,我可以像一年前那样,获得同样的计算、通信、基因测序和大脑数据,而一年前的价格只有今天的一半。这就是为什么你今天可以用两年前价格的一半买一部iPhone或一部安卓手机,而手机性能却比以前优秀两倍。改进后的性价比一部分表现在价格上,另一部分表现在手机性能上。因此,当一个非洲女孩以75美元的价格购买一部智能手机时,它就相当于75美元的经济活动,尽管这一数字在1960年前后约为一万亿美元,在1980年大约为十亿美元。它有数百万美元的免费信息应用,其中一个是百科全书,远比我十几岁时攒钱买的要好得多。所有这些在经济活动中都是零,因为它们都是免费的。所以我们真的不计算这些产品的价值。

所有这些都将改变:我们将用3-D打印机打印出衣服。目前我们处于某种3-D打印的炒作阶段。但在本世纪20年代初,我们将能够打印出服装。届时会有很多很酷的开源设计,你可以免费下载。我们仍拥有时尚产业,就像我们仍然拥有音乐、电影和图书行业一样,与免费、开源的产品共存,这些产品都是一流的产品和专有产品。我们可以用垂直农业生产出非常便宜的食物:用水培来种植水果和蔬菜,在体外克隆肌肉组织。第一个以这种方式生产的汉堡包已经被购买了。它很贵,售价几十万美元,但是很不错。所有这些不同的资源都将成为信息技术。最近,用亚洲的3-D打印机出来的乐高风格的小模块,几天后就拼建成了一栋三层楼的办公大楼。这将是本世纪20年代建筑的本质。3-D打印机将打印出我们需要的实物。

【尼古拉斯·汤普森】:让我们来谈谈智能,就像我口袋里的手机一样。它数学比我好,下棋比我厉害。它在很多事情上比我都做的好。什么时候它能比我更擅长与人交谈?什么时候会代替我来采访你?

【雷·科兹威尔】:我们的确拥有可以进行对话的技术。我的团队在谷歌创造了智能回复。所以我们正在写数百万封电子邮件。它必须理解所要回复的电子邮件的含义,尽管提出的建议很简短。但你的问题是一个类似于图灵测试的问题,它就相当于图灵测试。我相信,图灵测试是对人类智力全部范围的有效测试。你需要完全的人类智能才能通过一个有效的图灵测试。没有任何单纯的自然语言处理技巧可以做到这一点。如果人类法官无法分辨出其中的区别,那么我们认为人工智能是人类智慧的一部分,而这正是你所要问的。这是我的一个关键预测。我一直在说2029年。1989年,在《智能机器时代》(The Age of Intelligent Machines)一书中,我设定的界限是在20世纪20年代初到20世纪30年代末之间,在1999年的《精神机器时代》(The Age of Spiritual Machines)一书中,我说的是2029年。斯坦福大学的人工智能部觉得这令人生畏,因此他们召开了一次会议,当时人工智能专家的共识是这需要数百年的时间。25%的人认为这永远不会发生。我的观点与人工智能专家的共同观点或中间观点越来越接近,但这并不是因为我一直在改变我的观点。

2006年,达特茅斯召开了一个名为“人工智能@50”的会议。当时的共识是50年,那时我说的是23年。我们刚刚在阿西洛玛举办了一个人工智能伦理会议,当时的共识是在20到30年之间,而那会我说是13年。我还是比较乐观,但并没有那么乐观,越来越多的人认为我太保守了。

我没有提到加速回报定律的一个关键问题是:硬件不仅会呈指数级增长,软件也同样如此。我感觉越来越自信,我认为人工智能群体正越来越有信心,相信我们离这一里程碑不远了。

我们将与人工智能技术结合,让我们变得更聪明。它已经做到了。这些设备都是大脑扩展器,人们也会这么想,这是一种新事物。就在几年前,人们还没有把他们的智能手机看做是大脑扩展器。按照定义,它们会进入我们的身体和大脑,但我认为这是一个武断的区分。虽然它们在我们的身体和大脑之外,但它们已经是大脑的延伸,它们会让我们变得更聪明、更有趣。

【尼古拉斯·汤普森】:请解释一下政策制定者的框架,他们应该如何看待这种加速技术、他们应该做以及他们不应该做的事情。

【雷·科兹威尔】:人们对人工智能非常关注,如何保证技术的安全,这是一种两极分化的讨论,就像现在很多讨论一样。实际上,我在很长一段时间里都在谈论承诺和危险。技术永远都是一把双刃剑。火使我们暖和,为我们烹饪食物的同时,也能烧毁我们的房子。这些技术比火更加强大。我认为我们应该经历三个阶段,至少我是这么认为的。首先是为能有机会解决一直以来的难题而感到高兴:比如贫穷、疾病等等。然后要警告这些技术可能具有破坏性,甚至会带来生存风险。最后,我认为我们需要指出的是,我们必须意识到,除了我们已经取得的进步,我们在道义上必须持续推动这些技术的发展。这是一个完全不同的问题,人们认为情况正在变得更糟,但实际上情况正在变得更好,仍然有很多的人类苦难需要去解决。只有人工智能领域取得的持续发展,才能使我们继续克服贫困、疾病和环境退化,但同时我们也将面临危险。

这是一个很好的框架。四十年前,有远见卓识的人看到了生物技术的前景和风险,从根本上改变了生物学,让生物学在正确的道路上获得了长足发展。因此,他们在阿西洛玛的会议中心举办了一场“阿西洛玛会议”,并提出了道德准则和策略,即如何保证这些技术的安全。现在已经是四十年后了。我们正受到生物技术的临床影响。今天是涓涓细流,未来十年将是一场洪水猛兽。到目前为止,因滥用生物技术而受到伤害的人数为零。这是一个很好的学习模型。

我们刚刚举行了第一届关于人工智能伦理的阿西洛玛会议。这些伦理准则中有很多,特别是在生物技术领域,已经写入了法律。所以我认为这就是我们的目标。最极端的是,“让我们禁止这项技术”,或者“让我们慢下脚步”。这的确不是正确的方法。我们要以一种建设性的方式来引导。有一些策略可以做到这一点,这是另一个复杂的讨论。

【尼古拉斯·汤普森】你可以想象一下,国会可能会说,在某种技术领域工作的每个人都必须公开自己的数据,或者必须愿意分享他的数据集,至少要让竞争激烈的市场战胜这些难以置信的强大工具。你可以想象,政府会说,“实际上,我们将会有一个由政府资助的大项目,就像OpenAI一样,但是由政府管理。”你可以想象,有一场巨大的国家基础设施运动来发展这项技术,所以至少负责公众利益的核心人士可以控制其中的一部分。你有什么推荐的吗?

【雷·科兹威尔】:我认为开源数据和算法通常是一个好主意。谷歌将所有的人工智能算法与开源的附源代码(TensorFlow)都放在公共领域。我认为这实际上是开源和不断加速的回报定律的结合,它将使我们更接近理想。有很多问题,比如隐私,这些都是维护的关键,我认为这个领域的人通常都很关心这些问题。目前还不清楚正确答案是什么。我认为我们想要继续进步,但是当你有这么大的权力时,即使是出于善意,也会有滥用的情况。

【尼古拉斯·汤普森】:你担心什么?你看待未来非常乐观。但是你担心什么呢?

【雷·科兹威尔】:我被指责为一个乐观主义者,作为一个企业家,你必须是一个乐观主义者,因为如果你了解你遇到的所有问题,你可能永远都不会开始做任何项目。但正如我说过的,我一直在关注和撰写切实存在的一些负面影响。这些技术非常强大,所以我确实很担心,尽管我是一个乐观主义者。我很乐观,我们最终会度过难关。我也不会乐观说,我们不会遇到任何困难。第二次世界大战期间,有5000万人死亡,而当时的技术的力量更是加剧了死亡人数。我认为让人们意识到我们正在取得进步是很重要的。最近在26个国家进行了一项24,000人的民意调查。调查的问题是,“世界的贫困状况是否缓解?”90%的人说,情况变得更糟了,但这是错误的答案。只有1%的人给了正确答案,认为世界贫困人口下降了至少50%。

【尼古拉斯·汤普森】:有关职业生涯,观众们应该做些什么?他们即将进入这样一个世界,在这个世界里,职业选择映射到一个拥有完全不同技术的世界。所以在你看来,给这个房间里的人什么建议?

【雷·科兹威尔】:这确实是一条古老的建议,那就是跟随你的激情,因为真的没有什么领域不会受到影响,或者这不是这个故事的一部分。我们将在云端合并模拟新大脑皮层。所以,我们还是会变得更聪明。我并不认为人工智能会取代我们。它会增强我们的力量。它已经做到了。没有我们今天拥有的这些大脑扩展器,谁能完成它们的工作。这种情况将持续下去。人们会说,“好吧,只有富人才会有这些工具,”我说,“是的,就像智能手机一样,现在有三十亿人已经拥有智能手机了。”我之前说的是二十亿人,但我刚看了新闻,大概是三十亿人。几年后就会变成六十亿。这是因为惊人的价格表现爆炸。所以要找到你有激情的地方。有些人有复杂的情感,他们不容易被归类,所以要找到一种方法,使用可用的工具,让你觉得自己可以改变世界。我提出加速回报定律的原因是,要记录我自己的技术项目所需时间,所以我可以在项目可行的几年前便开始,去尝试和预测技术的发展方向。就在几年前,我们拥有了一些看起来像智能手机的小设备,但它们不太好用。因此,像这种科技革命和移动应用在五年前几乎不存在。五年后,世界将会变得截然不同,所以试着让你的项目发展速度跟上与火车站台的火车的速度。

观众提问:这么多的强调都是关于人性、科学和探索的美好一面,我也很好奇朝我们的机器人合作伙伴迈进的下一步。那黑暗的一面呢?那么战争、战争机器和暴力呢?

【雷·科兹威尔】:我们正在学习如何利用并操控这些平台来扩大人类的各种倾向,而其中很多都是我们正在学习的最新信息。所以人工智能从例子中学习。在这个领域有一句格言,生命始于十亿个例子,最好的例子就是向人们学习,所以人工智能经常向人类学习。情况并不总是这样。阿尔法狗(AlphaGo Zero)刚刚自己学会如何自我对战,但这并不总是可行的,尤其是当你在尝试处理更复杂的现实世界问题时。这一领域做出了巨大努力,所有大公司和开源研究领域也在努力研究中,其目的就是为了消除人工智能的偏见,以及克服性别偏见和种族偏见,因为如果人工智能向有偏见的人类学习,它就会从人们那里获得偏见。作为人类,我们会从我们所见过的所有事物中获取偏见,其中很多都是潜意识的。作为受过教育的人,我们会认识到偏见并试图克服它,我们的头脑中会产生冲突。有一整个领域的研究都是为了消除人工智能的偏见,并克服它们从人类身上获取的偏见。所以这是一种能够克服机器智能的问题的研究。从这些方面来看,机器智能实际上比它学习的人类偏见更少。总的来说,尽管社交媒体上各种各样的承诺和风险交织在一起,但总体来说,这是一件非常有益的事情。我穿过机场,每个两岁以上的孩子都拿着自己的设备。社交媒体已经成为了一个世界性的社区,我认为现在的一代比其他任何一代人都更能感觉到他们是世界公民,因为他们与世界上所有的文化都有联系。

【尼古拉斯·汤普森】:去年,美国与世界其他地区的关系并没有变得更紧密,很多人会说,我们的民主没有变得更好。这是持续进步与人类携手共进道路上的曲折,还是很多人误解了它?

【雷·科兹威尔】:美国和世界其他地方在政治上的两极分化是不幸的。我不认为这是我们今天谈论的话题。我的意思是,我们在世界上经历过重大的波折。第二次世界大战是一个相当大的波折,实际上并没有影响到这些趋势。在某些政府官员或政府中,可能有些事情是我们不喜欢的。但这里有一点需要讨论。我们并不是在无法表达自己的观点的极权主义的时代。如果我们朝那个方向发展,我会更担心,但我不认为会发生这种情况。所以,不要贬低政府和当权者的重要性,但这是在一个不同的层面上。我们谈论的这些问题并没有受到这些事情的影响。我担心的是存在的风险,因为技术是一把双刃剑。

观众提问:我的问题与不平等有关。在人类历史的大部分时期,经济不平等程度相当高,这其中有很多阶段。我想知道,你是否认为20世纪是一种反常现象,以及科技的扩散将如何影响这种不平等。

【雷·科兹威尔】:经济平等问题正在朝好的方向发展。根据世界银行的数据,在过去的20年里,亚洲的贫困人口减少了90%以上,从原始的农业经济发展到繁荣的信息经济。非洲和南美的经济增长率远高于发达国家。你看到的任何地方,都存在着不平等现象,但事情正在朝着正确的方向快速发展。在过去的20年里,全世界的贫困人口减少了50%。还有很多其他的衡量标准。所以我们正朝着正确的方向前进。在任何一个时间点上,都存在严重的不平等,都有人正经历苦难,但这些现象正朝着好的方向发展。

观众提问:我从你的评论中得知你正在预测人工智能离下一阶段还有12年,你已经提到过几次,尽管你很乐观,但你担心的是存在风险,所以我想知道你是否可以详细说明一下你的意思,你认为技术专家应该做什么来降低这些风险?

【雷·科兹威尔】:我的意思是,存在的风险是威胁我们文明生存的风险。因此,人类面临的第一个生存风险是核扩散。我们已经有能力摧毁所有人类的生命。有了这些新技术,我们不难想到,它们可能具有极大的破坏性,并摧毁全人类。例如,生物技术。我们有能力从疾病中重新规划生物学,比如免疫疗法,这是治疗癌症的一个非常令人兴奋的突破,我认为这非常具有革命性,不过它只是刚刚开始。它正在重新编程免疫系统去治疗癌症,而通常情况下不可能做到。但是,生物恐怖分子可以对一种病毒进行重新编程,使其更加致命,更具传染性,更加隐秘,从而制造出一种超级武器。这就是40年前第一次阿西洛玛会议所引发的难题。这些反复出现的会议让这些伦理准则、安全协议和策略变得更加复杂,到目前为止,它已经起作用了。但我们一直在让这项技术变得更加复杂,所以我们必须一次又一次地重新制定这些准则。我们刚刚举行了第一次关于人工智能伦理的会议。我们提出了一套道德规范,并且都已署名通过。其中很多都是模糊的。我认为这是一个非常重要的问题。我们发现我们必须在软件中建立伦理价值观。一个典型的例子就是无人驾驶汽车。自动驾驶汽车的全部动机是,在200万名人类司机中,避免99%的司机的死亡,但它将陷入一种境地,必须做出道德决策:它应该朝着婴儿车或向老年夫妇行驶,还是向墙壁行驶,而这可能导致乘客死亡。无人驾驶车是否有道德准则,不导致车内乘客的死亡?在这种情况下,无人驾驶车不能给软件设计师发送电子邮件,然后说,“天哪,我该怎么办?”道德准则必须内置在软件中。所以这些都是实际问题,在这个问题上,人工智能有一个完整的领域。

但我们该如何应对更为实际存在的风险:短期内就能实现的人工智能武器化。世界各地的国防部都在使用人工智能。当时有一份文件要求人们同意禁止使用自动武器,这听起来是个好主意,而使用的例子是“我们禁止化学武器,所以为什么不使用自主的人工智能武器呢?”这有点复杂,因为我们可以不用炭疽,也不用天花。禁止化学武器是可以的。但自动武器是一种两用技术。能将你的冷冻华夫饼或药品送到非洲一家医院的亚马逊无人机,可能用于运输一种武器。这是同样的技术,一切已蓄势待发。也就是说,这是一个更复杂的问题,如何处理。但我们的目标是收获承诺并控制风险。没有简单的算法,我们可以把这个子程序放入我们的人工智能中,“好吧,把这个子程序放进去。”它会让你的人工智能保持良性。”智力天生就是无法控制的。我的策略并不愚蠢,它是在我们自己的人类社会中实践我们希望在世界上看到的道德、道德和价值观。因为未来的社会并不是某些来自火星的智能机器的入侵。它诞生于我们今天的文明。这将会增强我们的自我。因此,如果我们正在实践我们今天所珍视的价值观,那就是在未来拥有一个包含这些价值观的世界的最佳策略。(选自:wired编译:网易见外编译机器人 审校:薛雅芹)

关注网易智能公众号(smartman163),获取人工智能行业最新报告。

相关推荐
热点推荐
雷军:小米SU7正式发布

雷军:小米SU7正式发布

界面新闻
2024-03-28 19:10:55
李尚福被免去国防部长,虎父无犬子,父亲竟和美国交过手

李尚福被免去国防部长,虎父无犬子,父亲竟和美国交过手

磊子讲史
2024-03-25 14:45:46
万科:2023年全年净利润121.6亿元人民币 同比下降46%

万科:2023年全年净利润121.6亿元人民币 同比下降46%

财联社
2024-03-28 20:07:10
6名公职人员接受纪律审查和监察调查

6名公职人员接受纪律审查和监察调查

锡望
2024-03-28 17:17:13
中国援建10年的阿根廷工程停工!米莱:政府花费人民的钱不道德

中国援建10年的阿根廷工程停工!米莱:政府花费人民的钱不道德

大风文字
2024-03-28 11:28:36
天津7名老师围殴初三女生,强迫她磕头道歉作伪证,家长曝光内情

天津7名老师围殴初三女生,强迫她磕头道歉作伪证,家长曝光内情

洛洛女巫
2024-03-27 13:07:24
南通市市监局回应“禁止制销冥币纸钱通告是否会修改”:具体要问民政部门

南通市市监局回应“禁止制销冥币纸钱通告是否会修改”:具体要问民政部门

潇湘晨报
2024-03-28 20:11:11
男朋友在阿里,股票亏了6 7万,安慰他好久,他打开支付宝100多万

男朋友在阿里,股票亏了6 7万,安慰他好久,他打开支付宝100多万

前沿天地
2024-03-28 18:23:04
戴尔要跑路了!一万多人被裁,中国区被曝裁员非常多

戴尔要跑路了!一万多人被裁,中国区被曝裁员非常多

爆角追踪
2024-03-28 16:46:09
突发惨剧!江苏13岁男孩刀捅15岁学生,捅到心脏,知情人曝内情

突发惨剧!江苏13岁男孩刀捅15岁学生,捅到心脏,知情人曝内情

行者聊官
2024-03-28 11:59:43
丰田章男,胜利了

丰田章男,胜利了

辣椒车讯
2024-03-28 08:41:28
江同志的秘密花园

江同志的秘密花园

我是娱有理
2024-03-28 07:21:55
4位厅干(拟)履新,“80后”的他由政转企

4位厅干(拟)履新,“80后”的他由政转企

鲁中晨报
2024-03-28 18:09:08
58岁港星黎明诗去世,死因公开引热议,曾公开承认同性恋

58岁港星黎明诗去世,死因公开引热议,曾公开承认同性恋

180°视角
2024-03-28 15:36:28
女大学生称被室友集体孤立:她们坐前排、不敢逃课,还熄灯就睡觉!

女大学生称被室友集体孤立:她们坐前排、不敢逃课,还熄灯就睡觉!

可达鸭面面观
2024-03-28 16:44:41
李铁被押解受审画面曝光,看守所内照片流出,律师披露大量隐情

李铁被押解受审画面曝光,看守所内照片流出,律师披露大量隐情

求实者
2024-03-28 15:38:51
突发!联合:拟禁止维修中国芯片设备!

突发!联合:拟禁止维修中国芯片设备!

半导体圈
2024-03-28 14:37:34
媒体人徐江:我明确告诉你,孙准浩下球了

媒体人徐江:我明确告诉你,孙准浩下球了

直播吧
2024-03-28 19:28:22
李雪琴眼光真不错!恋情曝光男友履历被扒,能力很强还获过不少奖

李雪琴眼光真不错!恋情曝光男友履历被扒,能力很强还获过不少奖

元气少女侃娱乐
2024-03-28 16:39:53
律师解读李铁案:最轻也是无期,或被判死缓,影响比陈戌源更恶劣

律师解读李铁案:最轻也是无期,或被判死缓,影响比陈戌源更恶劣

奥拜尔
2024-03-28 17:03:26
2024-03-28 20:54:44

科技要闻

小米汽车正式发布

头条要闻

山西女子酒店遇害致命伤全在头部 有750万借款未索回

头条要闻

山西女子酒店遇害致命伤全在头部 有750万借款未索回

体育要闻

疯狂的格林,冲刺的火箭

娱乐要闻

莱昂纳多与25岁新女友互相投喂超恩爱

财经要闻

疯狂!三个城市,三个地王!

汽车要闻

混动增程双模式 长安UNI-Z售11.79万起

态度原创

家居
房产
教育
艺术
军事航空

家居要闻

邂逅浪漫,注入柔性的法式基因

房产要闻

中海顺昌玖里首开销售196.5亿元,上海豪宅市场“火热”

教育要闻

超百所高校,拟新增博士硕士学位授予单位!

艺术要闻

艺术开卷|从闺阁、庭院到郊野,古画中的女性生活空间

军事要闻

乌方声称击落两枚俄"锆石"高超音速导弹 俄方未予回应

无障碍浏览 进入关怀版
×