OpenAI又失去了两位领导者——这对AI安全意味着什么？

⭐发布日期：2024年09月20日 | 来源:百度健康

⭐作者：江角マキコ责任编辑:Admin

⭐阅读量:870 评论：7人

【三肖必中特三肖三码官方下载】

【香港4777777最快开码】

【最准一码一肖100精准】

【2024新澳门资料大全】

【2024年新澳门免费资料】

【澳门天天彩期期精准龙门客栈】

【626969澳门精准资料2024期】

【管家婆一肖一码100%中奖澳门】

【4949澳门现场+直播】

【新奥彩2024年免费资料查询】

就在OpenAI因发布其最新人工智能模型而引起全球关注的同一周，知名高管Ilya Sutskever和Jan Leike宣布他们将离开该公司。再加上Andrej Karpathy于2月离职，似乎最致力于安全、以人为中心的人工智能开发的人已经离开了公司。

在争夺大规模颠覆性行业主导权的激烈竞争中，人工智能领域的顶级公司是否失去了刹车踏板？

失败的政变

2023年初，联合创始人兼前首席科学家Sutskever被认为是一项有争议的罢免首席执行官Sam Altman的行动的幕后主使，据称他担心Sam Altman对人工智能安全协议漠不关心。奥特曼的戏剧性离职导致了令人窒息的头条新闻和广泛的谣言，但一周后奥特曼恢复了他的职位。

Sutskever很快发表道歉并辞去了OpenAI董事会的职务，此后再也没有发表任何公开声明或露面。

事实上，当OpenAI在周一发布其备受炒作的产品更新时，Sutskever显然缺席了。

仅仅两天后，萨斯克弗就宣布正式离职。他的辞职声明是亲切的，奥特曼的公开承认也是如此。

“近十年后，我决定离开OpenAI，”Sutskever写道。“该公司的发展轨迹堪称奇迹，我相信OpenAI将在（Sam Altman、Greg Brockman和Mira Murati）的领导下构建既安全又有益的AGI。

“能一起工作是我的荣幸和荣幸，我将非常想念每一个人，”他继续说道，并补充说，他将继续专注于一个对个人有意义的项目。

萨姆·奥特曼说：“这让我很难过；伊利亚无疑是我们这一代最伟大的人物之一，是我们这个领域的指路明灯，也是我们亲爱的朋友。没有他，OpenAI就不会是现在的样子。”

不久之后，OpenAI宣布Jakub Panochi将填补Sutskever的职位。帕诺奇之前担任研究总监，从事的工作更为技术性，主要专注于扩展人工智能。

但换防可能还有更多的意义。当Sutskever宣布辞职时，他只关注了几个推特账户，包括OpenAI和一个腊肠表情包账户。自称“人工智能中间派”的亚当·苏利克（Adam Sulik）回复了这一公告，暗示萨斯克弗无视任何他可能仍然是主体的保密协议，以人类的名义分享内幕信息。

Sutskever在Sulik发表评论后关注了他。。。几个小时后就不再跟他了。

事实证明，并不是只有萨斯克弗一个人走向出口。就在几个小时后，Jan Leike辞职了，他与Sutskever共同创立了OpenAI的“超级联盟”团队，以确保人工智能的道德和长期发展

没有玩笑，没有对OpenAI的赞扬，也没有来自OpenAI高管的反应。

莱克在加入OpenAI之前曾在谷歌的Deepmind工作。在后一家公司，超级协调团队专注于确保人工智能有望达到或超过人类智能的尖端系统与人类价值观和意图保持一致。

然而，人们对这群人工智能安全哨兵知之甚少。除了这两位领导人之外，OpenAI没有提供任何关于该部门的额外信息，除了有其他“来自[其]前调整团队的研究人员和工程师，以及来自公司其他团队的研究者”

苏利克还对莱克的辞职发表了评论，表达了他对事件发生时间的担忧。

他在推特上写道：“看到简在伊利亚之后立即离开，对人类的安全前进道路来说不是个好兆头。”。

OpenAI没有立即回应Decrypt的置评请求。

几个月前，OpenAI联合创始人Andrej Karpathy离开了公司，并在2月份表示他想从事个人项目。Karpathy曾在OpenAI担任研究科学家，并在ChatGPT培训期间参与了从计算机视觉应用到人工智能助理和关键开发的不同项目。2017年至2022年间，他离开公司五年，领导特斯拉的人工智能开发。

有了这三个离开，OpenAI就没有了一些最重要的思想来追求AGI的道德方法。

欺骗退出，新交易进入

有迹象表明，奥特曼的失败下台消除了人们对更有利可图但道德上模糊不清的机会的抵制。

例如，在恢复奥特曼后不久，OpenAI放松了对将其技术用于武器开发等潜在有害应用的限制——此前的指导方针完全禁止此类活动。

除了与五角大楼达成协议外，OpenAI还开设了一个插件商店，使任何人都可以设计和共享个性化的人工智能助手，有效地削弱了直接监督。最近，该公司开始“探索”成人内容的创作。

道德倡导者和指导方针的力量越来越弱，这不仅仅局限于开放人工智能。微软在1月份裁掉了其整个道德和社会团队，谷歌在同一个月也退出了其负责任的人工智能工作组。与此同时，Meta解散了其道德人工智能团队。与此同时，这三家科技巨头都在疯狂争夺人工智能市场的主导地位。

我们有明确的理由感到担忧。人工智能产品已经成为主流，这是一种每天有数十亿次互动的社会现象。不结盟的人工智能似乎越来越有可能对未来几代人在商业、政治、社区甚至家庭事务中的发展产生不利影响。

像“有效加速主义”这样的哲学运动的兴起——它重视快速发展而不是伦理担忧——加剧了这些担忧。

目前，剩下的主要谨慎堡垒似乎是开源开发、自愿参与人工智能安全联盟（如前沿模型论坛或MLCommons）以及政府的直接监管，从英国的《人工智能法案》到七国集团的人工智能行为准则。（公众号：矿圈执行者）

【2024澳门天天开好彩大全免费】【新澳天天开奖资料大全最新】

【2024年天天开好彩资料】 【新澳天天开奖资料大全最新54期】

【2024澳门天天开好彩大全53期】 【澳门天天开彩期期精准】