88必发娱乐,88必发娱乐场,88必发娱乐城

您当前的位置 : logo >  科技 > 智能 > 正文
投稿

防止人工智能灭世?马斯克做Open AI的野心和私心

2017-09-26 18:28:33 来源:财经杂志
一直号称人工智能比朝鲜核武器更危险的马斯克,可能也是那个把世界推入险境的人。

(原标题:马斯克做Open AI的野心和私心)

防止人工智能灭世?马斯克做Open AI的野心和私心

(马斯克饱受质疑,外界认为OpenAI成为其招揽人才的后花园。图/AFP)

刘泓君/文 谢丽容/编辑

当全世界都在关注美国总统特朗普与朝鲜的互怼上,特斯拉创始人伊隆·马斯克(Elon Musk)发Twitter称“如果你不关注人工智能的安全,你应该担心,它比朝鲜问题更危险”。

这已经不是他第一次发表对人工智能安全问题的担忧。8月中,他与来自26个国家的人工智能领袖联合向联合国呼吁严格限制自动化杀人武器,如坦克、无人机自动枪械等,禁止这些武器在国际间使用。

两年以前,马斯克联合硅谷大佬投资10亿美元成立了一家非营利组织Open AI,号称要防止人工智能灭世。

这个组织几乎汇聚了硅谷最有权势与名望的人,除马斯克以外,它包括了很多熟悉的名字:著名孵化器Y Combinator创始人山姆·奥特曼(Sam Altman)以及合伙人Jessica Livingston、前Stripe的CTO格雷格·布劳克曼(Greg Brockman),被称为“硅谷人脉王”的Linkedin联合创始人Reid Hoffman,以及Paypal共同创建者及著名投资人Peter Thiel。

尽管人工智能灭世的言论一直富有争议,马斯克的警告可能并不是危言耸听,但他的Open AI真的有能力有意愿防止人工智能毁灭世界吗?马斯克的真实动机也一直在被质疑。

Open AI的神秘面纱

如果用最通俗易懂的话来解释Open AI正在做的事,就是做一个“会做饭的机器人”。想象一个机器人能够像人一样去行动去思考,这是Open AI的终极使命——建立安全的通用机器人。

做饭是一个非常复杂的任务。尽管现在亚马逊的仓库、特斯拉的工厂中都用上了机器人,但这些机器人只做简单重复性的工作,在车间流水线上组装零件。对灵活的任务,机器人做的并不好。马斯克希望能够通过机器人研究,推进家务机器人的前沿研究。

施天麟是Open AI的早期成员,也是斯坦福人工智能方向的在读博士。2015年12月,他参加一个关于机器人的行业会议,并在这个会议上机缘巧合地认识了格雷格。当时,格雷格开始兴致勃勃地跟施天麟讲未来想要做的事情,并告诉他一些大牛即将加入。在蒙特利尔的一个会议进入尾声时,马斯克与山姆宣布成立新的人工智能非营利公司Open AI。

尽管有着众多的行业大佬背书,实际操作人也起着关键作用。第一个加入Open AI的人是格雷格,相传他与马斯克私交甚笃。他是增强学习很有名的研究者,导师是伯克利做机器人研究的教授。

格雷格创业之后主要负责Stripe底层平台,因此在学术研究社区知名度并不是很高,他主要搭建负责Open AI的基础架构。

真正主管研究的人是Ilya Stuskever,他在谷歌大脑有着三年的研究经验,在此之前,他是斯坦福深度学习实验室吴恩达(Andrew Ng)团队的博士后,曾与多伦多大学教授Geoffrey Hinton一起工作,是其最得意的学生之一。谷歌曾经为了抢夺Geoffrey与他的两个学生,特意发起对DNNResearch的收购,这家公司隶属多伦多大学计算机科学院,只有三个人—— Geoffrey Hinton以及他的研究生学生Alex Krizhevsky和Ilya Sutskever,而且该公司没有任何实际产品与服务。

Open AI成立以后,马斯克每周会来办公室半天。他并不会在会议上滔滔不绝,大多数时候只是听大家说,然后给出一些方向性的建议,在场的成员能明显感觉到他对机器人的浓厚兴趣。

除了给出方向建议,马斯克还会帮Open AI找融资,在现有的10亿美元融资中,有相当一部分来自于他自掏腰包。

山姆则负责Open AI所有的对外合作部分,比如近期跟Dota合作的人机大赛,需要游戏开发者获取他们的API接口以及一些开放数据。

如果要对人工智能研究进行成本分析,成本来自于服务器提供的计算资源、数据获取以及人才工资成本。服务器成本是所有人工智能公司成本中最大的一块,山姆也牵头促成了Open AI与微软云Azure合作,以帮助Open AI寻找可用的服务器。

Open AI目前仅60多人,办公室坐落在Stripe旧金山的办公区。在该组织成立早期,主要依靠内部成员的相互推荐。现在有一套固定的招聘流程招聘研究人员,而基础架构的工程师方向则与Facebook、谷歌的招聘流程类似,招聘工资也直接对标这两家公司。

目前,在Open AI的平台上有三个大的开源平台—— Gym、Universe和Robot。主要研究方向是机器人的迁移学习与增强学习。Gym是指研究在每个细分研究领域建立自己的算法以后,把算法放在不同的环境中测试;Universe目标是让AI智能像人一样使用计算机,目前已有1000种训练环境;而Robot则是训练机器人。

对抗巨头?

马斯克在成立时就宣称Open AI要对抗Facebook、谷歌等巨头垄断,以开源的方式来驱动研究。

就在Open AI宣布成立的一个月以前,互联网巨头把人工智能的发展推向高潮。当时,谷歌宣布将部分开源人工智能引擎,Facebook也在不久后宣布开源深度学习计算机服务器设计。Open AI自成立就开始宣布自己要开放它所有的研究成果。

与巨头开放这些人工智能平台不同,Open AI的开源是算法而非平台,它也会与巨头的开源平台合作,其Gym平台就与谷歌的TensorFlow合作。

回顾人工智能最近几年的发展趋势,无论是算法还是平台,开源已经是人工智能竞争的一大核心策略。

得人才者得人工智能。在硅谷,做深度学习的人工智能博士生,已经成为几大互联网巨头疯抢的对象。各大机构竞相追逐学术研究者并开出高价,这在历史上从没有发生过。一位研究者称:“在Open AI成立之后,谷歌与Facebook给顶级研究人员的Offer高了两倍。”

对学术研究者来说,他们更愿意分享自己的研究成果,并以此建立影响力。开源可以帮助这些AI机构吸引更多的人才。同时,对巨头来说,开源也意味着更多的开发者会利用平台搭建算法,可以帮助平台自我完善,也会加快整个产业的发展进程。

如果要在业内给Open AI找一个对标者,最相似的莫过于与李世石围棋大战的DeepMind。两者都不是平台,而是对人工智能的算法研究。施天麟在他的研究中发现,Open AI更偏向于机器人的研究,会使用更多专门为机器人打造的虚拟环境,而DeepMind更偏向于用游戏做虚拟环境进行训练。

“DeepMind认为在游戏规则下能够获胜的AI有一定智能,但这个离真实的机器人还比较远。你能控制一个游戏机的飞船,并不意味着你真正能够控制一架飞机。”施天麟对《财经》记者说。

他正在为Open AI开发“World of bits”的训练平台,是Open AI Universe的前身,希望机器人能够像人一样在网上订机票、酒店、外卖。但其关注点不是最后机器人如何订到机票,而是通过观察人怎么订机票,让机器去学习人的这种在不同环境下都可以应对自如的“迁移学习”能力。

施天麟认为,尽管DeepMind号称开源,但只开放了几个“迷宫”这类的小游戏,真正核心的算法依然没有开源。

AI竞争,数据为王。无论是Facebook还是谷歌,都有强大的平台资源和数据宝库。外界对Open AI最大的质疑是,没有数据资源如何突破人工智能研究?

吴恩达曾说过:“为什么做AI需要去大公司,因为大公司有海量的数据和强大的计算平台。”

施天麟的项目需要征集人怎么用计算机订票的演示,于是他在亚马逊上发起了众筹项目以征集数据,每小时价格10美元左右,目前已经花了几万美元。但这相对于大公司的数据,依然九牛一毛。

山姆曾在Open AI成立的时候称,Y Combinator将会与Open AI共享数据服务。Y Combinator已经在硅谷投资了大量的独角兽企业,旗下的平台有Airbnb、Dropbox、Stripe。同时,特斯拉也称将开放数据给Open AI,微软与亚马逊也正在变成Open AI的合作伙伴。

如此看来,Open AI可能会通过各种间接渠道获取机器训练数据,但美国对数据监管政策严厉,Open AI目前可以获取一些数据,但这样的来源是不稳定且充满风险的。

不过也有做房产分享的创业者认为,Open AI的房源数据就可以多过谷歌,因此它在一些细分领域并不处于劣势状态,也可能成为对抗巨头的一方势力。

马斯克的私心?

即使对亿万富豪来说,10亿美元的投资也并非一笔小数字。尽管他曾经多次表示出对人工智能心存恐惧,但这一动机仍被质疑。

马斯克曾经投资著名的人工智能研究公司DeepMind,后来这家公司被谷歌收购,这也让他了解了人工智能的发展前沿。接近马斯克的人认为,在创建特斯拉与Space X时,他对工程类技术非常了解,但他并不了解最前沿的深度学习技术,依然处于学习阶段。

眼下,马斯克旗下的特斯拉正在研究无人驾驶,他还将在今年10月推出无人驾驶卡车。在无人驾驶的竞争中,特斯拉每一辆在路上跑的车都可以看成是一次数据收集。然而,无人驾驶涉及到图形图像识别、分析等多个深度学习研究领域,拥有了数据这块宝藏之后,他旗下的公司对AI人才有着迫切的需求。

著名研究员Andrej Kapathy从Open AI跳槽加盟特斯拉无人驾驶团队,直接向马斯克汇报。Kapathy的跳槽让马斯克饱受质疑,外界认为Open AI成为其招揽人才的后花园。

Open AI一个研究项目是机器人如何抓取物体。比如人让机器人去冰箱拿啤酒,啤酒瓶从哪几个点抓起来既稳又不会碎,这个方向不需要大量的数据,只用建立各种模拟场景模拟即可。一个容易联想的事实是,马斯克建立了自己的特斯拉工厂,他的工厂中已经引入很多自动化的机器人生产。

尽管Open AI号称对所有人开放,但这家非营利机构也的确弥补了他商业上的短板,成为这家组织的实际受益者。

在Open AI这种非营利组织架构中,管理较为扁平,以项目为单位划分。Ilya曾经在Open AI的私人聚会上透露,评价标准之一就是发论文。组织成员认为,这种组织形式与大学的实验室比较像,每个人都有自主权去选择要做些什么项目,而科研项目的周期往往比普通项目要长。因此如果实验中,发现想法是不可行的,也可以中途放弃。

不过,这种模式也令外界质疑,类似于学术研究的算法对工业界究竟产生多少影响力有待怀疑。

通常企业开发研究中,不同人会在一个社区中贡献大量的代码,这个代码库由很多程序员来维护。而在学术研究中,只有几个人做一个课题组,很多时候一个人就可以写一个算法。加上学术研究的样本库较小,在大规模的检测后可能并不能应用于其他场景。

除了一些计算机领域的大神,学术研究最终大概只有1%的算法能够适应不同的环境最后留下来。但如果底层研究有突破性进展,将会催生一个产业的诞生。

吴恩达在谷歌大脑时,曾经使用1000台机器去学习Youtube上关于猫的视频,使用深度学习神经网络最后可以在很多图片中识别猫。当时没有人会尝试用1000台机器的大量计算能力去学习。但这次突破印证了当你有足够多的计算资源足够多的数据时,算法的突破会有很大潜力。此后,计算机视觉进入到一个快速发展的时期,人脸识别、图像识别、自动驾驶等基于计算机视觉的公司如雨后春笋般出现。

Open AI的野心是希望能够在机器人领域做出类似的大突破。“如果能把机器人做出来,发明一种新算法让机器在环境中快速学习,极可能催生一个崭新的机器人产业。” 施天麟说道。

不过,机器人通用算法在未来十年里都不会有大突破,因为这需要大量的数据训练、计算能力和高昂的成本投入。

“实现这件事的算法还不成熟,控制人工智能不做危险的事更是无稽之谈。”有不愿具名的分析人士向《财经》记者称,“但是马斯克发表机器人的这些言论是有根据的,如果机器人算法有重大突破,类似于当年识别猫的图片那样,那机器人就是一件很危险的事情。”


不妨这么说,如果马斯克的目标真是通用的人工智能机器人的重大技术突破,那他极可能成为把世界置于危险境地的人。尽管马斯克已经在做尽可能多的增强学习等安全方向的研究,但不排除如果居心叵测之人使用Open AI的研究成果开发武器。

尽管不排除马斯克成立Open AI确实存在一些私心——在未来的技术竞争中占据制高点,并且广泛网罗人才。但他的担忧也不无道理,也可能确实有出于无私的角度在推进行业的发展。毕竟,机器人是个大趋势,巨头与创业公司已经开始抢占市场,非营利组织存在的必要性也毋庸置疑。

文章来源:财经杂志 责任编辑:

精彩推荐

陈欧代言自己 两年净利跌六成 投资新项目...

(原标题:陈欧为自己代言身家两年缩水百亿)微博中断更新12天后,9月13日早上,陈欧在

版权声明:
·凡注明来源为“88必发娱乐”的所有文字、图片、音视频、美术设计和程序等作品,版权均属88必发娱乐所有。未经本网书面授权,不得进行一切形式的下载、转载或建立镜像。
·凡注明为其它来源的信息,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。
不良信息举报信箱 新闻热线:0550-82200000   服务QQ:5997 34971  网上投稿
关于本站 | 广告服务 | 免责申明 | 招聘信息 | 联系我们
88必发娱乐  版权所有 Copyright(C)2005-2017