您的位置:首页>>智能设备

矩阵?终结者?微软CEO用6条规则将AI无害化

发布时间:2016-07-01 10:47:49  来源:爱范儿    背景:

  近期,微软CEO纳德拉在Slate上发表了自己对于人工智能安全设计的思考。他认为人工智能和人类在未来可以和谐相处:

  我们希望创造可以增强人类能力和体验的人工智能。最终,人类和机器不应该是敌对的关系。人类的创造性、同情心和洞察力可以和人工智能的计算能力有机地结合在一起,推动社会进步。

  纳德拉是一个乐观派,但他的乐观是建立在理性思考上的。

undefined

  (图片来自:The New Yorker)

  他认为,要实现这个目标,对有害的副作用的防范至关重要。对此,他提出了6条规则,以指导人工智能的安全设计。

  人工智能必须成为人道的辅助。

  纳德拉认为,随着人工智能越来越自主化,人们的生活应该更加自由。机器应该代替人类去做一些如采矿一类的危险工作,让我们的生活更安全。

  人工智能技术必须透明、公开。

  当机器可以近乎无限制地学习用户的行为,人类更加应该了解人工智能技术的工作方式。反之,信息不对等会带来巨大的危险。

  人工智能在促进生产效率的同时,不能有害于人类的尊严。

  纳德拉在此强调,科技产业不能刻意引导未来价值观与道德的发展趋势。当硅谷的大公司都在宣扬“科技改变世界”的信条,人工智能的设计应该倾听不同人群的声音。

  人工智能必须保障用户隐私。

  人工智能的设定应该尊重个人和群体的隐私保护意愿。比如,Facebook和Google都以挖掘个人数据营利,而它们复杂的隐私设定,让用户的大部分隐私都暴露给人工智能。这种模式是纳德拉所反对的。

  人工智能必须有可更改的算法。

  这样可以通过修改人工智能的设定来规避风险,将意料之外的危害降到最低。

  人工智能应反对歧视。

  纳德拉反对人工智能对于边缘化人群的歧视,这多少也暗合了硅谷自由派的价值观。

  在纳德拉之前,有不少人表达过类似的忧虑。

undefined

  (图片来自:Huffington Post)

  1942年,科幻巨擘阿西莫夫出版了短篇小说 Runaround,并在其中提出了著名的机器人三定律。这套规则被广泛引用,用来探讨在科技进步中如何防止机器人对人类的伤害。

  机器人不能伤害人或因不作为使人类受到伤害。

  除非违背第一定律,机器人必须服从人类的命令。

  除非违背第一季第二定律,机器人必须保护自己。

  阿西莫夫的人工智能规则看似严谨,但也有很多人认为其仅有文学上的,而非现实上的价值。比如,这套规则并不能防止人工智能修改自身的设定以摆脱人类的控制。

  这种担忧看似是杞人忧天,而事实上,近年来如比尔·盖茨和霍金等都发表过对人工智能潜在危险的担心。

  学术界对此问题的探讨起步更早,法国哲学家让-弗朗索瓦·利奥塔早在1988年出版的著作《非人道》中就提出过,科技的演进有其内在的逻辑,独立于人类的意愿之外。科技永远只遵循效率优先的原则,而非以人为本。他预言,总有一天人类会失去对科技发展的控制,并被科技奴役。

undefined

  (图片来自:Movie Pilot)

  The Verge 评论道,跟阿西莫夫的三定律相比,微软CEO 的6条原则显然缺少了趣味性,但是其对整个产业的发展来说却是更有指导意义的。

  纳德拉的担忧更侧重人工智能潜在的社会影响,而不是反对机器人走进千家万户。人工智能若想增进人类福祉,扫除潜在危险,或许需要有更多如纳德拉这样的领导者出面,为道德演进指明方向。

特别提醒:本网内容转载自其他媒体,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。


返回网站首页 本文来源:爱范儿

本文评论
友情提示:评论功能暂时关闭,请扫描上方二维码进群交流!
罗技G913无线RGB机械游戏键盘、G813 RGB机械游戏键盘重磅发布
(2019年8月20日,上海讯)今日,罗技G913无线RGB机械游戏键盘及G813 RGB机械游戏键盘发布会在上海...
日期:08-20
Alaris E1000 系列扫描仪荣膺BLI 2019夏季年度之选大奖
2019 年 7 月 11 日,纽约罗切斯特 - 经过严格测试和谨慎评估,Alaris E1000 系列扫描仪摘得Keypoin...
日期:08-20
拒绝信号“死亡之握”,ROG手机打造地表最稳定的游戏环境
游戏已经成为大多数人日常娱乐的首选,伴随着生活质量的不断提高,游戏爱好者也在不断追求好的游戏...
日期:08-20
机器人“显身手” 2019世界机器人大会在北京开幕
  原标题:无所不能的机器人 2019世界机器人大会在京开幕
日期:08-20
NSA、SA有真伪之分?打破谣言!
  (原标题:NSA 5G手机是伪5G?打破谣言,揭晓真相)
日期:08-20
外媒曝光第五代Apple Watch渲染图:陶瓷版回归
8月20日消息 随着苹果发布会的日益临近,越来越多有关苹果今年即将发布的新品信息被曝出。近日有外...
日期:08-20
“小Y随身带·口才练出来”智伴小Y便携机器人强势发布
8月15日,广州智伴人工智能科技有限公司(以下简称:智伴科技)在广州召开了“Y星探秘”201...
日期:08-20
BLOCKS模块化智能手表项目宣告失败:支持者退款无门
8月20日消息,据9to5Google报道,BLOCKS模块化智能手表项目彻底凉了,支持者可能拿不到退款。
日期:08-20
5G网到底有多快?三星给你答案
  (原标题:5G时代的网速究竟有多震撼?5G先行者三星送上答案!)
日期:08-20
华为Mate旗舰迎来新升级 这下彻底无敌了
近日消息,华为Mate 20 Pro迎来软件更新,此次更新主要新增了魔法闪投功能,旨在支持华为Mate 20 Pr...
日期:08-20
华为Mate 30 Pro再爆猛料:更“大”更高级了
拍照能力实力对于现在任何价位任何品牌的智能手机来说都是最受关注的评价因素之一,而录像水准作为...
日期:08-20
红米:Redmi Note 7系列手机销量破2000万台
网易科技讯 8月20日消息,Redmi红米手机官方微博正式对外宣布Redmi Note 7系列手机全球销量突破2000...
日期:08-20
华为手机处理器又升级了!这次是麒麟990,余承东:安排
前段时间,华为的消费者业务CEO余承东在微博上预热,9月华为的全球首家旗舰店将在深圳开业,最近华...
日期:08-20
App装多了也不怕!OPPOR9splus重启1分钟变流畅
你手机里安装了多少个App?你每天用哪个App时间最长?《2019年Q2移动互联网行业数据研究报告》显示,...
日期:08-20
你拿什么摄取别人的眼球?
(原标题:人人皆可拍照的年代,怎么征服你的朋友圈?)
日期:08-20
最好的音画质 索尼Z9F 4K智能液晶电视满足消费者娱乐诉求
“索尼出品”一直是技术标杆的代名词,受到业界的竞相追随。2018年8月16日索尼在上海发布...
日期:08-20
覆盖你的需求空间:热门高性能智慧分布式路由pk
随着智能设备越来越多,智能家居也逐渐走入我们的生活,无线信号的好坏直接影响了使用体验。但是市...
日期:08-20
一周AI大事盘点 速来了解一下?
  (原标题: 一周AI大事盘点:谷歌开发足球游戏训练AI,日本将用AI预测海啸 )
日期:08-20
iPhone新机或将采用国产屏幕
(原标题:由于三星遭到出口管制 iPhone新机或采用国产屏幕)
日期:08-20
荣耀9X全新配色魅焰红今日开售:麒麟810,1399元起
8月20日消息 据荣耀官方了解,今日上午10:08,荣耀9X魅焰红配色开售,采用麒麟810处理器,售价1399...
日期:08-20
  专栏介绍
阳光不锈 的专栏
阳光不锈发表的文章
积分:
自我介绍 :