AI确实可能杀死人类！千k1体育名科技大拿呼吁立即暂停

　　k1体育“从ChatGPT开始，AI出现了推理能力。但没人能解读这种能力出现的原因。”

　　当地时间3月25日，OpenAI CEO山姆·奥特曼谈到AI竞争战时，语出惊人。

　　29日，未来生命研究所（Future of Life Institute）公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。

　　截至目前，这封信已有1100多名科技领袖和研究人员签名，除了马斯克、辛顿和马库斯之外，还包括图灵奖得主约书亚·本希奥（Yoshua Bengio）、《人工智能：现代方法》作者斯图尔特·罗素（Stuart Russell）、 苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、Stability AI首席执行官埃马德·莫斯塔克（Emad Mostaque）等科技界领袖人物。

　　这封信呼吁，所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并实行暂停。人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的，并且无可置疑。这并不意味着总体上暂停AI开发，只是紧急从奔向不可预测的大型黑盒模型的危险竞赛中收回脚步。

　　与此同时，信中指出，AI开发人员必须与政策制定者合作，以显著加快开发强大的AI治理系统。至少应包括：建立专门负责AI的有能力的新监管机构；监督和跟踪高性能人工智能系统和大量计算能力；推出标明来源系统和水印系统，以帮助区分真实与合成，并跟踪模型泄漏；强大的审计和认证生态系统；界定人工智能造成的伤害的责任；为人工智能技术安全研究提供强大的公共资金；以资源充足的机构来应对人工智能将造成的巨大经济和政治破坏（尤其是对民主的破坏）。

　　这封信最后写道，“人类可以享受人工智能带来的繁荣未来。成功创建强大的AI系统后，我们现在可以享受‘AI之夏’，收获回报，设计这些系统以造福所有人，并为社会提供适应的机会。社会已经暂停其他可能对社会造成灾难性影响的技术。我们可以在这个领域也这样做。让我们享受一个漫长的AI之夏，而不是毫无准备地陷入秋天。”

　　当地时间周一（3月27日），推特首席执行官、OpenAI创始人之一的马斯克在社交平台推特上“吐槽”了微软联合创始人比尔盖茨，称其对人工智能的理解有限。

　　一名推特用户发文称“像比尔盖茨这样的人物如此看好人工智能，这是一件大事”。马斯克则在下方回应称，“我还记得早期与比尔盖茨的会面。他对人工智能的理解有限，现在也是。”

　　实际上作为微软联合创始人，比尔盖茨一直在思考关于人工智能的问题。当地时间3月21日，比尔盖茨发表了一篇名为《人工智能时代已经开始》的文章，在这篇长达七页的文章中，比尔盖茨概述了自己对人工智能时代的看法。

　　一次是1980年，k1体育他第一次看到可以被称作包括Windows系统在内的操作系统先驱的现代图形用户界面；

　　第二次发生在去年（2022年），他看到了GPT人工智能模型。比尔盖茨称，人工智能的发展就像“创造出电脑、互联网和移动电话一样”重要。

　　比尔盖茨从健康医疗、教育等方面表达了自己对人工智能未来的期待。其表示，k1体育人工智能能改善医疗领域，帮助医护人员处理文书内容。对较落后国家而言，人工智能能帮助其提高看病效率。而对生物医学研究而言，人工智能还能加快研究人员在医学领域的突破。

　　作为OpenAI创始人之一的马斯克，在2018年离开OpenAI后，便一直对其持批评态度，尤其是针对其与微软的关系。就在马斯克退出OpenAI后，2019年微软对OpenAI进行了投资，马斯克曾称其为“由微软有效控制的公司”。

　　3月16日，马斯克在推特上写道：“我仍然很困惑，一个我捐赠了1亿美元的非营利组织是如何变成一个市值300亿美元的营利性组织的。如果这是合法的，为什么不是每个人都这么做呢？”

　　对于马斯克的批评，作为OpenAI现任CEO，山姆·奥特曼并未直接回应，而是调侃了一下马斯克在航天领域也经常被“老前辈”们批评的事情。

　　奥特曼称，并不否认过分强大的AGI“可能杀死人类”这一观点。必须承认，（AI杀死人类）有一定可能性。很多关于AI安全和挑战的预测被证明是错误的，我们必须正视这一点，并尽早尝试找到解决问题的方法。

　　值得注意的是，近日，挪威机器人公司1X Technologies宣布完成A2轮融资，共筹集到2350万美元。k1体育OpenAI旗下创业基金领投此轮融资，Tiger Global以及一群挪威投资者也参与其中。

　　获得融资后，该公司创始人进一步表示，“1X 很高兴能得到OpenAI 的领投，因为我们的使命是一致的：将新兴技术有意识地融入人们的日常生活。在我们投资者的支持下，我们将继续在机器人领域取得重大进展，并增强全球劳动力市场。”

　　值得注意的是，人形机器人也是马斯克十分关注的方向。去年9月30日举办的特斯拉AI日上，马斯克展示了外界引颈期盼的人形机器人Optimus，马斯克曾表示，机器人业务将比汽车更具价值。

　　彼时，马斯克在发布会上表示，目前的人形机器人没有“大脑”，没有能在现实世界中导航的智能，而且非常昂贵且产量低。如今，OpenAI与人形机器人的牵手则让人期待。

　　美国作家、纽约大学教授加里·马库斯认为，在许多方面，起关键作用的不是智力而是权力。一个拥有核代码的白痴就可以摧毁世界，只需要适度的情报和不应该得到的访问权限。现在，AI工具已经引起了犯罪分子的兴趣，越来越多地被允许进入人类世界，它们可能造成更大的破坏。

　　欧洲刑警组织27日发布一份报告，对采用ChatGPT类工具进行犯罪的可能性进行了讨论，令人警醒。k1体育“大型语言模型检测和重现语言模式的能力不仅有助于网络钓鱼和在线欺诈，而且通常还可以用来冒充特定个人或群体的讲话风格。这种能力可能会被大规模滥用，以误导潜在受害者将他们的信任交给犯罪分子。”

　　这份报告写道，“除了上述犯罪活动外，ChatGPT的功能还有助于处理、政治宣传和虚假信息领域的许多潜在滥用案件。因此，该模型通常可用于收集更多可能促进恐怖活动的信息，例如融资或匿名文件共享。”

　　马库斯认为，再加上人工智能生成的大规模宣传，被大型语言模型增强的可能导致核战争，或者导致比新冠病毒更糟糕的病原体的故意传播等。许多人可能会死亡，文明可能会被彻底破坏。也许人类不会真的“从地球上消失”，但事情确实会变得非常糟糕。

　　ChatGPT迭代升级的脚步加快，很多人失业的恐惧也越来越重。高盛分析师布里格斯和库达尼在3月27日发布的研究报告中就直面了这一问题。

　　报告称：“最近出现的生成式人工智能将降低劳动力成本和提高生产率。尽管AI的潜力存在很大的不确定性，但它可以生成与人类创造成果无法区分的内容，并能打破人机沟通障碍，反映出具有潜在巨大宏观经济影响的重大进步。AI不仅节省劳动力成本，还能创造新的就业机会以及提高在岗工人的生产率。AI的革命性就像早期通用技术（如发电机和个人计算机）一样能为社会带来繁荣。”

　　ChatGPT等生成式人工智能系统的最新突破，料将给全球劳动力市场带来重大颠覆，全球预计将有3亿个工作岗位被生成式AI取代，律师和行政人员将是最有可能被裁员的岗位。

　　高盛研究发现，目前欧美约有三分之二的工作岗位都在某种程度上受到AI自动化趋势的影响，而多达四分之一的当前岗位有可能最终被完全取代。该研究计算出美国63%的工作暴露在“AI影响范围”中，其中7%的工作有一半以上的流程可以由AI自动化完成，这使他们很容易马上被人工智能取代。在欧洲，情况也差不多。

　　作为一种具备生产创造能力的智能形态，以ChatGPT为代表的AI近年来展现出令人瞩目的文字、图像、声音的生成或辅助生成能力，也不断刷新着人们对于AI最终取代绝大部分人类工作的担忧。

　　更为关键的是，当前的AIGC（人工智能生成内容）无需工资，k1体育亦不存在失业的概念，作为提供生产力的经济单位，其与宏观经济间的逻辑关系较人类发生了根本性改变，而这或许将给经济环境带来难以估量的影响。【《正经社》综合整理，来源：澎湃新闻、红星新闻、21财经、每日经济新闻、财联社】