图片来源：Daniel Hertzberg
你如何教导机器？
Facebook的人工智能研究总监Yann LeCun：如何为机器制定教学计划。
人工智能的传统定义是，机器以通常我们认为属于人类的方式，来执行任务和解决问题。有一些任务我们觉得很简单——识别照片中的物体、驾驶汽车——可是这些任务对于AI来说特别困难。机器可以在棋盘上超越人类，可是那些机器的程序从本质上来说是体力活，机器受到程序的限制。一个30美元的设备就能在棋类游戏上超越我们，可是它没法做——也没法学会做——其他所有事情。
这就是为什么我们需要机器学习。给机器展示几百张猫的照片，机器就会训练自己的算法，学会更好地识别照片中的猫。机器学习是所有大型互联网公司的基础，让公司可以进行搜索结果排名，为特定用户选择最相关的内容和建议。
深度学习是以人类大脑为基础，要复杂得多。与机器学习不同的是，深度学习可以教会机器忽略声音或图像中所有不重要的信息——呈现一种能够反映无限多样性的层级性世界观。正是深度学习为我们带来了无人车、语音识别、以及有时候比放射学专家更擅长识别肿瘤的医疗分析系统。
虽然有了这些值得赞叹的进步，我们距离与人类同样智能的机器还很远——我们的机器甚至与老鼠的智能相比都差得很远，我们大约只见证了AI实力的5%。
是时候重新思考就业吗?
百度首席科学家吴恩达：AI将如何改变未来的就业。
如今在美国，驾驶货车是最常见的职业之一。几百万人在东西海岸之间运输着货物，以此维持生计。然而，很快所有这些就业机会都将消失。无人车将替代人类司机在路面行驶，并且更快、更安全、更高效。有这么好的事，还有哪家公司会选择更昂贵、更容易犯错的人类司机呢?
类似的劳动力变革在历史上也有先例。在工业革命前，90%的美国人在农场工作。蒸汽技术和制造业的兴起让许多人失业了，但是也创造了很多新的工作机会——还创造了很多当时人们无法想象得到的新领域。这个排山倒海般的巨变是在两个世纪的过程中慢慢展开的，当时，美国有足够时间来适应变化。农民们直到退休都在种田，而他们的下一代去上学，成为了电工、工厂领班、房地产商和食品化学家。
而卡车司机们就没有这么幸运了。他们的职业，还有另外几百万人的职业，很快就会过时。在智能机器时代，数量众多的人们将没有工作的能力，或者有被淘汰的风险。我们可能会见证20世纪30年代经济危机以来最大的失业大潮。
1933年，富兰克林·罗斯福的新政帮助了大量失业人口，并且帮助重启了美国经济。更重要的是，它帮助美国从一个农业社会转变为一个工业社会。罗斯福的“公共工程署”雇佣了失业者来建造桥梁和新的高速公路，改善了美国的交通基础建设。这些改善为当时非常先进的新技术应用奠定了基础：汽车。
我们需要有一个针对21世纪的新政，针对人工智能会带来的新就业机会打造培训项目。我们需要重新训练卡车司机和办公室助理，来打造未来的数据分析师、旅行规划师等等其他我们现在还不知道自己有需求的职业。美国南北战争前(19世纪60年代前)的农民，绝对无法想象自己的儿子会当电工，而现在，我们也很难说AI在未来会创造什么样的工作机会。不过我们清楚的是，必须采取革命性的措施，才能完成从工业社会到智能机器时代的转变。
AI：和人类一样?
智能机器如何做到模仿自己的“造物主”。
要实现人类级别的人工智能，我们下一步要做的就是创造智能的——但不是自动的——机器。你汽车中的AI系统可以让你安全到家，但是没法在你回家后自动选择下一个目的地。我们将以此为基础，加入基本的动机以及情感和道德价值。如果我们创造出学习能力像人类大脑一样强的机器，应该不难想象机器会“继承”一些类似人类的特点——还有弱点。但是在我看来，“终结者”预言极其不可能。这需要一个精心策划的、意图不轨的个体，特意将恶意企图写入智能机器，没有哪个机构——更别说哪个公司或者个人——可以凭一己之力实现人类等级的AI。打造智能机器是我们这个时代最大的科学挑战之一，需要各个国家、公司、实验室和学术团体之间共同分享智慧。AI的进步最有可能是渐进的，而且是开放的。—— Yann LeCun。
图片来源：Daniel Hertzberg
如何成为机器的主人
牛津大学人类未来研究所的创始总监Nick Bostrom：AI的生存危机。由Daniela Hernandez采访。
能说说你正在进行的工作吗?
我们对于“控制问题”相关的技术挑战非常感兴趣。你能确保AI做的事情，一定是符合程序员初衷的吗?我们还对强智能AI带来的经济、政治和社会问题感兴趣。什么样的政治体制最能够帮助我们转型进入智能机器时代?我们如何确保不同的利益相关者联合起来，从事可以带来积极结果的事情?
你进行了很多关于生存危机的研究。如果用最直白的语言向一个5岁小孩解释，你会如何描述呢？
我会说，这是可以永远毁灭人类未来的科技。对于年纪更大一点的听众，我会说有人类灭绝的可能，或者可能永远摧毁我们在未来实现价值的可能性。
你认为什么样的策略会帮助减轻人工智能的潜在生存危机？
研究控制问题会有所帮助。当我们搞明白如何让机器变得真正智能，我们应该能有一些概念，知道如何控制这样的机器，如何进行工程设计，从而让机器与人类站在同一阵营，符合人类价值观，不具有破坏性。这涉及一系列的技术挑战，其中一些我们现在已经开始研究了。
你能举个例子吗？
对于控制问题，不同的人思考着不同的方法。一种方式是研究价值观学习。我们希望自己打造的AI最终可以分享我们的价值观，这样AI可以作为我们人类意志的延伸。我们没法把自己重视的一切写在一个长长的列表然后塞给AI。更好的办法，是利用AI自己的智能来学习我们的价值观和喜欢。
每一个人的价值观都不同。我们如何决定机器该学习什么样的价值观？
这是一个很大、很复杂的问题：价值观之间的巨大冲突以及利益之间的巨大冲突。从某种意义上说，这是最大的一个未解难题。如果你对于技术进步比较乐观，你会觉得最终我们总会知道怎样可以做到越来越多的事情。
我们会以前所未有的程度征服自然。但是有一项科技无法自动解决的问题，就是冲突和战争。最黑暗的宏观画面是，人们有可能利用技术，这种超越自然的力量、这种知识，专门用来伤害和破坏他人。这个问题没法自动解决。
