当前位置:首页 > 女性 > 部位保健 > > 深度剖析:从能源到交通再到医疗保健,马斯克将如何颠覆这 8 个行业?(7)

深度剖析:从能源到交通再到医疗保健,马斯克将如何颠覆这 8 个行业?(7)

发布:2018-06-17 06:19 | 来源:健康日报网 | 查看:
分享到:

摘要: 人工智能研究的进展很快,马斯克认为这是对人类生存的威胁。谷歌,Facebook,亚马逊,苹果以及我们AI 100(如上图所示)中的所有公司都为人工智能的发展做出了贡献:更高的效率,更高的生产力、更少的人类工作,以

人工智能研究的进展很快,马斯克认为这是对人类生存的威胁。谷歌,Facebook,亚马逊,苹果以及我们AI 100(如上图所示)中的所有公司都为人工智能的发展做出了贡献:更高的效率,更高的生产力、更少的人类工作,以及在理想情况下,为人类提供更高的生活质量——让我们能够做更多有趣、更有创造力的事情。

但是,这背后有巨大的潜在缺陷——超人工智能比人类更聪明,并且人类看不到它们的存在。

OpenAI的目的是加强人工智能研究。尽管你可以阅读DeepMind或Google Brain团队的研究论文,哪怕是苹果公司已经创建自己的机器学习期刊。上述的公司都非常隐蔽地从事人工智能研究。

OpenAI不仅要进行研究, 还要 “占据元数据层面,如平台和基础设施,以便为每个人提供更快速的研究”。为了实现这一目标,公司有两个核心部分:

研究:OpenAI吸引了该领域的一些最优秀的研究人员,希望他们有机会处理人工智能方面的一些最大问题。该小组定期将自己关于人工智能和机器学习的研究结果发布出来。此外,该团队还在自己的网站上发布更广泛的想法。

系统:OpenAI正在构建平台,以帮助其他人工智能研究人员更好地了解他们正在建设的机器。例如,该团队已经建立了一个 AI Gym——一个“用于开发和比较强化学习算法的工具包”。

OpenAI的整体愿景是在不受商业限制的情况下,将高质量的谷歌/苹果/ Facebook /亚马逊级别的人工智能研究成果公开出来。正如该公司在其介绍性博客文章中所说的那样,“由于我们的研究没有盈利义务,因此我们可以更好地关注人工智能对人类的积极影响。”

超人工智能真的是一个问题吗?这听起来太科幻了,即使对马斯克来说也是如此。至少比火星上殖民或者推动自动驾驶汽车的想法要更不切实际一些。但是,想象一个人工智能诱发的世界末日不难。这是对马斯克对人工智能领域其他人的批评。机器学习领袖吴恩达(Andrew Ng)表示,“担心超人工智能就像担心火星上的人口过剩一样”。

但这是马斯克的观点。没有人在考虑这件事。相反,他们都过于关注人工智能的商业可能性。他们看不到潜在的问题。

这个问题有两个层面:

人工智能会无意识地做有害的事情

人工智能会有意识地做有害的事情

即使是目前非常低级的人工智能,也可能会出现第一个层面的问题。比如说我们建造了一个人工智能清洁机器人。这个机器人想要做的就是确保世界尽可能的干净。如果机器人只是想确保一切都是干净的,它有几个选择。第一个选择是清理所有的烂摊子。这是我们想要的结果,也是人工智能开发人员期望的结果。

但这不是唯一的选择。另一种可能性是,它首先会试图阻止混乱的发生。人类会造成混乱。“如果没有人类,就没有混乱,那么让我们干掉所有的人类!”增加了人工智能的效用函数,这对于人工智能来说,是一个完全合法的解决方案。

关于这个层面的人工智能安全研究是 OpenAI 的主要研究重点。2016年,该公司合作撰写了一篇题为“ 人工智能安全中的具体问题”的研究论文 。该论文确定了人工智能研究人员在推进任何类型的人工智能时需要强烈考虑的五个研究方面:

避免负面影响。 我们如何保证人工智能会完全遵循它编程,从而不会出现那种不惜一切代价履行自己的职责的情况?对于清洁机器人来说,这可能会破坏房间以加快清洁速度。

避免奖励黑客行为。 如果人工智能使用奖励功能来确定正确的行动方案,那么我们如何确保它不会尝试并最大化该奖励功能而不是执行行动呢?对于清洁人工智能,这可能是关闭其视觉系统,因此它就看不到混乱了。

可扩展的监督。 我们怎样才能确保即使在训练实例不多的情况下, 人工智能也能安全地训练? 清洁机器人会知道它必须清理咖啡杯, 但它如何学会不“清理”在桌子上过夜的手机呢?

安全的探索。 人工智能能否探索可能的结果并在不造成严重后果的情况下进行训练吗? 比如,如何在拖地的时候不试图拖走电源插座?

对分布转移的鲁棒性。随着数据或环境的变化,人工智能能否继续以最佳方式执行,或者至少可以确定其模糊性并“优雅地失败”?如果清洁人工智能学会了在办公室里打扫卫生,那么它是否可以尝试清洁工厂的地板?

已经有攻击来测试人工智能的极限了。鲁棒性是狭义人工智能特别关注的问题。当你在它们的舒适区之外测试它们的时候,工作效率有多高?答案并不乐观。图像识别机器学习算法经常错误地归类对抗性的例子——在图像中注入了特定的噪声。

深度剖析:从能源到交通再到医疗保健,马斯克将如何颠覆这 8 个行业?

这是一个良性的例子。然而,不难想象黑客会恶意利用这个缺陷。想象一下,在自动驾驶汽车中对人工智能进行对抗性攻击,在其编程中将“停车标志”变为“绿灯”。这不仅会比汽车刹车失灵更致命,这也是一种虚拟攻击,是高度可扩展的。

人工智能安全的核心问题可以归结为一个简单的问题:我们如何确保人工智能想要的是我们想要的?OpenAI正试图领导这一领域的研究。虽然它专注于这个领域,但它并不仅仅是唯一一个在这个领域工作的公司。还有Google Brain,斯坦福大学和加州大学伯克利分校的研究人员。

但是,在超人工智能的非具体问题方面,OpenAI是独一无二的。

这个担忧背后的关键是人工智能的学习速度。赢得Dota2的机器人是一个很好的例子。从四月份开始的时候开始,每次迭代都稳步增加了它的能力。

深度剖析:从能源到交通再到医疗保健,马斯克将如何颠覆这 8 个行业?

这张图表测量了OpenAI的最佳机器人TrueSkill的评分——类似于国际象棋中的ELO评分——这是该机器人对其它训练对手的OpenAI机器人的胜率的总结。

人类要花几年学会的技能,人工智能只需要花一个月的时间。DeepMind的AlphaZero在国际象棋人工智能上取得的成功更进一步。它学会了如何在数小时内击败最好的国际象棋电脑 。

从随机游戏开始,除了游戏规则以外,没有任何领域知识。AlphaZero在24小时内达到了象棋和将棋(日本象棋)以及围棋的超人类游戏水平,并在每个情况下都令人信服地击败了一个世界冠军。