闻名世界的人工智能研究实验室 OpenAI 在 2019 年宣布其从非营利性组织过渡为营利企业的新闻登上了报纸头条。在 2015 年至 2018 年期间,该公司似乎仍是非营利性质的。而如今,OpenAI 的估值已达到了惊人的 290 亿美元。
这一举动出乎意料且引发众多争议,也代表了该组织的重大转变。长期以来,OpenAI 都被其创始人和因为先进人工智能技术带来需求增长而加入的人们,视作是人工智能伦理道德和责任发展的堡垒。但随着 OpenAI 在寻求其崇高理想和市场现实之间的平衡时,该公司要如何驾驭人工智能发展的复杂局面,并保证其技术被用于更高目标的问题仍然存在。
在本文中,我们将深入 OpenAI 的转型,探讨这一大胆举措所带来的影响。
很久很久以前,在一个遥远的星系中……开玩笑啦,OpenAI 最初是在硅谷,以非营利性质研究实验室的形式成立,意在用人工智能拯救世界。他们计划用机器学习消除癌症、制造自动驾驶汽车,并在旧金山的实验室里终结世界饥饿,小意思。
作为非营利研究实验室,OpenAI 专注开发尖端人工智能技术,进行领域内的突破性研究。以什么为名?该公司宣布这场专利派对人人有份!通过向公众提供其专利和提交,该公司将与其他组织和研究人员进行“自由合作”。
在 2015 年,由包括 Sam Altman、Reid Hoffman、Jessica Livingston、Elon Musk、Ilya Sutskever、Peter Thiel 和 Olivier Grabias 在内的一群知名企业家和研究者创建这家公司时,目的非常明确:
“以有益于整体社会的形式推进人工智能,且不受对经济回报需求的限制”
据《连线》杂志报道, AI 研究者、OpenAI 联合创始人 Greg Brockman 在与加拿大计算机科学家,同时也是传闻中深度学习运动“奠基人”之一的 Yoshua Bengio 见面后,列出了一份“领域内顶级研究者”的名单。在 2015 年 12 月,Brockman 雇佣了名单上的其中九人为其公司的第一批员工,据说是 OpenAI 的承诺和使命吸引了这些研究者的加入。
Wojciech Zaremba 曾是谷歌和 Facebook 的实习生,后来加入的 OpenAI。据他所说,虽然 OpenAI 无法给他在其他工作邀约中所能提供的二至三倍市场价值,但他仍是部分地因为该公司的人和使命而选择加入。
“OpenAI 是最好的地方。”
公司所提供的是更有价值的东西,比如面向未来的研究机会、向任何需要的人分享其最终研究的绝大部分乃至全部内容。
七年前的今天,OpenAI 的第一天
曾任职谷歌的 OpenAI 研究总监 Ilya Sutskever 是如此描述他从谷歌到 OpenAI 任职的转变:
“(谷歌)让我留下来的理由很有说服力,这个决定并不轻松,但我最终仍然决定去 OpenAI,部分原因是这里的人很强,另外则在很大程度上是因为其使命。”
由 YC 领导 Paul Graham 等创始人在内,以及 AWS 和 Infosys 等企业赞助商所承诺的十亿美元资金让这家公司得以成立,目标是为研究者们搭建一个可以在不影响安全或道德的情况下,探索人工智能全部潜力的安全网。
第一批由 OpenAI 所发布的人工智能软件之一,OpenAI Gym,是一款可通过“强化学习”技术构建人工智能系统的工具包,正如 Brockman 所承诺的公司起点。同年推出的“Universe”,则是可通过各种游戏、网站和其他应用,评估并提升人工智能通用智商的软件平台。
然而,就在公司发展的早期阶段,埃隆·马斯克于 2018 年退出了董事会,原因是他在特斯拉人工智能的自动驾驶方面研发工作与该公司存在潜在利益冲突,不过他仍是 OpenAI 的捐助者。事实确实如此吗?根据最新的报道,“利益冲突”似乎比我们想象的还多,而很快我们就能知道详情了。
作为非营利性质的组织,OpenAI 需要面对研究目的与预算限制的长期斗争。研究者必须学会如何把一块钱掰成八瓣的同时,还要想方设法开发出能打动投资者的顶级人工智能技术。
该公司之前曾表示,一个开放的非营利组织是实现其目标的最有效方式。
“因为我们的研究没有财务负担,所以可以更好地专注于对人类的积极影响。我们相信人工智能应当是人类个人意志的延伸,以自由的精神尽可能地广泛且均匀地分配。”
但他们在几年之后发现,开放的营利性组织反而会让这个目的更难以实现。因此,在 2019 年之际,OpenAI 经历了重大拐点。这是一个对非营利性组织而言极不寻常的举措,OpenAIOpenAI 经历了重大拐点,他们做出了一个对非营利性组织而言极不寻常的举措。OpenAI 宣布创建独立个体 OpenAI LP,以“封顶利润”公司的形式运作,标志着该公司的基础结构转型。
在 OpenAI 大胆决定过渡至营利模式时,有人说他们这是受够了天天吃拉面的日子,也有人说他们是想在赚钱上超过埃隆·马斯克。但不管出于什么原因, 对于非盈利性质的研究实验室而言,这都是个极大的转变。
事实上,这一决策是为能提高财务的可持续性,并商业化其技术应用。这一决策并非毫无争议,部分批评者认为,这可能会损害 OpenAI 组织对人工智能发展的道德承诺。
首先,该公司声称其需要筹集“数十亿美元”以招募顶级人才所需支付巨额的签约奖金。
“在接下来的几年内,我们需要投资数十亿美元用于大规模云计算,以吸引并留存优秀人才,搭建人工智能超级计算机。”
公司也认为将 OpenAI 维持开放会是危险的。据 Vox 报道,OpenAI 的安全团队得出的结论是,将全部工作开源可能不会为人类的最佳利益服务,而是会招致麻烦。因此,在创建 GPT-2 时,出于对抄袭、机器人、虚假亚马逊评论和垃圾邮件轻易滥用的担忧,该公司没有将其开源。
该公司在经历这场转型时仍坚持追求同样的目标,并对投资者和员工都设置了财务限制。在新目标“累计财富”之下,该组织仍能认清自己的道德指针,并声称自己绝不会采取任何不道德的做法。因此,OpenAI LP 的目的是为建立一个“封顶利润”的公司,一个营利性与非营利性组织的结合体。
“我们希望能在提高资金筹备能力的同时,仍为我们的使命而服务。据我们所知,没有任何已有的法律结构能达到正确的平衡点。”
前文中所提到的“封顶利润”框架意在对第一轮投资者施加限制,授权其只能收获其原始投资一百倍的最大回报。
从非营利向营利性质的转变,意味着 OpenAI 需要平衡其对利润的需求和对人工智能发展道德的承诺。有点像骑独轮车耍杂技,不过包含了更多对人类本质存在问题的探讨。
根据公司在其网站上的信息所称,实验室是在非营利性的治理下运作(OpenAI LP 将由 OpenAI 股份有限公司“治理”,而后者是非盈利性质的部门),将人类的进步置于营利性收益之上,并使其能注重安全问题并采取重要举措,如赞助最为全面的全民基本收入(UBI)实验,以及在必要时取消对股东的股权义务。
据其所称,设置股东可获取的利润上限能防止他们被利益引诱,试图无限制地攫取财富,并冒险部署存在极大潜在危险的东西。
但不管怎么说,埃隆·马斯克坚持己见,并于 3 月 15 日在他名下的社交媒体平台推特上表达了自己的不满。
Dare Obasanjo:当你打电话问 Sam Altman,问他为什么 OpenAI 不再是非盈利组织,甚至连“开放”都不是时:
埃隆·马斯克:我还是很迷惑为什么我捐赠了大概一亿美元的非营利组织是怎么变成 300 亿美元市值的营利性组织。如果这能合法,为什么大家都不这么干?
显然,这位亿万富翁早在这个 LLM 巨头成为营利性公司之前就投资了一亿美元,但马斯克似乎更担心 OpenAI 转型所带来的法律影响。根据他曾经的声明能看出,他是真的很忧心人工智能的潜在威胁。
虽然这位特斯拉的老板称他离开 OpenAI 只是因为利益冲突,但据 Semafor 的一份最新报告显示,马斯克离开的真正原因是,他所提出的接手公司并自己经营的建议被 Sam Altman 和其他创始人所拒绝。马斯克提议是因为他觉得这家企业已经明显落后于谷歌,而他本人则是能扭转乾坤的救世主。
马斯克明确表示,他的目标是将人工智能实验室建立为能与谷歌同台竞技的力量。
Genevieve Roch-Decter,CFA:埃隆·马斯克称 AI 是文明的“最大威胁之一”,需要受到监管。
埃隆·马斯克:OpenAI 是以开源(这就是为什么我将其命名为“Open”AI)、非营利性公司的形式创建,用于对抗谷歌。现在他已经变成了被微软牢牢掌控的闭源、利润为先的公司。根本不是我的本意。
随着马斯克的离开,他也不再进行大笔意向性捐款。据 OpenAI 的声明表示,马斯克将继续向该公司提供财政支持,但前者并没有履行其承诺。
那么,利益冲突真的是马斯克输掉的权利斗争吗?
据 Semafor 的报告称,OpenAI 中只有少数人认同马斯克的离开是由于潜在的利益冲突,在他离开 OpenAI 办公室时发表的有关这一话题的演讲,并没有收获绝大部分员工的好评,他们对马斯克所给出的解释仍持怀疑态度。
值得庆幸的是,在马斯克离开公司后,微软向 OpenAI 投资了十亿美元,并在一年后获得了该公司 GPT-3 模型的独家许可权,成为了其专有的云供应商。这项投资对 OpenAI 更进一步研究工作的发展起到了重要作用。通过 AI 实验室和其新任投资商微软的合作,诞生了一台用于训练大规模模型的超级计算机,最终促使了 ChatGPT 和图像生成器 DALL-E 的出现。
正如其所自我标榜的,该公司的目的是为开发对社会有正面影响的人工智能系统,探索其技术营利性质的商业应用,没有明确竞争意图,而是为寻求与其他研究和政策机构合作,在 AGI 发展的最后阶段保障其安全。
即使如此,竞争仍在加剧。比如马斯克可能会假装自己对成为竞争对手毫无兴趣。
埃隆·马斯克:一定没问题的
图:意识到人类所创建的最强大的工具,AI,正被一家企业无情垄断。我:
而实际上马斯克已经加入的 OpenAI 直接竞争对手的行列。他正在积极谋划创建一家新的创业公司,叫板 OpenAI。马斯克还没有离开战场,这场权力斗争还没有结束。
尽管 Sam Altman 为保持与最初使命一致性而放弃了他在新营利实体中的股权这一不同寻常的决定,马斯克仍然对 OpenAI 从开放性组织转变为封闭组织这件事保持怀疑。
Tim Urban:无可争议用
Tim Urban 的风格写一篇推
“拖延就像是在钢丝绳上打盹:暂时可能感觉不错,但结局不会太好”
埃隆·马斯克:不奇怪,我刚刚知道 OpenAI 可以访问推特数据库进行训练,我给这件事按下了暂停键。需要更多地了解它未来的治理结构和收入计划。OpenAI 最初是以开源和非营利性创建的。这二者现在都不是真的。
展望未来,OpenAI 将继续通过创新研究和新技术的研发推动 AI 领域的边界。他们接下来要做什么?能让人类飞往火星的机器人,或者是一个能预测世界末日的机器?无论怎么说,这些看起来都很超级有意思。
你也「在看」吗? 👇
文章引用微信公众号"AI前线",如有侵权,请联系管理员删除!