揭秘人工智能的黑暗一面：Altman的背叛与AI发展的误区

星阁 • 2024年08月05日 12:27 • 生活

2023年，几何智能创始人加里·马库斯与山姆·奥特曼一同在参议院作证。

曾经对奥特曼抱有希望，但现在马库斯表示，这位OpenAI首席执行官不可信。

这位人工智能专家还在《卫报》上写道，我们在人工智能的道路上走错了。

奥特曼的矛盾言行与AI的错误方向

作为OpenAI的首席执行官兼人工智能代言人，山姆·奥特曼多次呼吁开发造福人类的人工智能并制定法规以确保世界实现这一目标。

但一位领先的人工智能专家表示，奥特曼的行动与他的公开言论相矛盾，人工智能当前的发展方向存在偏差。

在《卫报》周六专栏中，机器学习公司Geometric Intelligence创始人兼优步人工智能实验室前负责人加里·马库斯认为，奥特曼一再误导公众对其在OpenAI的财务利益，并质疑这位首席执行官在呼吁监管时有多真诚。

曾经对奥特曼抱有希望，马库斯在专栏中写道，这位OpenAI领导人“似乎很真诚”，并且在2023年5月一同在立法者面前就该技术作证时，似乎也对人工智能监管有着相同的担忧。

马库斯写道：“我们都强烈支持人工智能监管。但慢慢地意识到，恐怕是我、参议院，最终是美国人民被戏耍了。”

马库斯质疑了奥特曼声称自己没有OpenAI股权的说法，并引用了这位首席执行官通过他曾经领导的创业孵化器Y Combinator以及与人工智能公司达成5100万美元交易的芯片初创公司Rain AI等方式与OpenAI的间接财务联系。

OpenAI的发言人没有立即回应置评请求。

马库斯还质疑了奥特曼对安全的承诺，他写道，尽管OpenAI声称想要监管，“但现实要复杂得多”。

他引用了一篇2023年《时代》杂志文章，报道了OpenAI如何试图削弱欧盟人工智能法案，部分做法是删除将OpenAI的ChatGPT标记为“高风险”的措辞，这将使该公司受到更严格的法律约束。

马库斯还提到了OpenAI的透明度问题，OpenAI要求员工签署严格的保密协议，而前同事指责奥特曼向董事会撒谎。

马库斯写道：“想必奥特曼不想遗憾终身，声名狼藉。但私下里，他的游说者一直在推动更弱的监管，甚至没有任何监管。”

除了奥特曼之外，马库斯还表示，人工智能的发展方向走错了道路，因为各公司都在试图赶上OpenAI。

马库斯写道：“不幸的是，许多其他人工智能公司似乎走上了奥特曼规划的炒作和偷工减料的道路。”

这位人工智能专家还认为，像ChatGPT这样的生成式人工智能工具“不太可能永远安全”，而且无法在医学或气候变化等领域提供有用的解决方案。

马库斯写道：“生成式人工智能工具本质上都是顽固和不透明的——所谓的‘黑箱’，我们永远无法完全控制。”

他说：“尽管如此，我认为我们不应该放弃人工智能。打造更好的AI——用于医学、材料科学、气候科学等等——真的可以改变世界。生成式人工智能不太可能胜任这项工作，但人工智能的某种未来尚未开发的形式也许可以。”

来源：Business Insider

原创文章，作者：星阁，如若转载，请注明出处：http://www.xgrl.net/n/202408051227454056.shtml