ntext="Article" data-image-id="2410843" data-caption="AI researchers predict a slim chance of apocalyptic outcomes" data-credit="Stephen Taylor / Alamy Stock Photo" />

许多人工智能研究人员认为，超人AI的未来发展可能会导致人类灭绝的机会，但这种风险也普遍存在分歧和不确定性。

这些发现来自对2700名AI研究人员的调查，这些研究人员最近在AI顶级会议中发表了六项工作，这是迄今为止最大的此类调查。该调查要求参与者分享他们对未来AI技术里程碑的可能时间表的想法，以及这些成就的好与坏社会后果。近58％的研究人员说，他们认为人类灭绝或其他与AI相关的结果有5％的机会。

该论文的作者是加利福尼亚州机器情报研究所的Katja Grace说：“这是一个重要的信号，大多数人工智能研究人员都不认为AI毁灭了人类，这是不可思议的。”“我认为，对非微调风险的普遍信念比确切的百分比风险要多得多。”

俄亥俄州凯斯西部储备大学的埃米尔·托雷斯（ÉmileTorres）说，但是目前尚无恐慌。他们说，许多AI专家“没有良好的记录”，即预测未来的AI发展。格蕾丝（Grace）和她的同事们承认，AI研究人员不是预测AI未来轨迹的专家，但表明他们的调查2016年版本“预测了相当不错”的AI里程碑。

与2022年版的同一调查的答案相比，许多AI研究人员预测，AI将比以前预测的要早得多。这与2022年11月的Chatgpt和Silicon Valley急于根据大语言模型广泛部署类似的AI聊天机器人服务的首次亮相。

被调查的研究人员预测，在接下来的十年中，AI系统成功解决了39个示例任务中的大多数，包括与Taylor Swift Banger无法区分的新歌曲或从Scratch编码整个付款处理网站。其他任务，例如在新房屋中进行物理安装电线或解决长期数学之谜，预计将需要更长的时间。

到2047年，AI的可能发展可能超过人类的表现，到2047年发生了50％的可能性，而到2116年，所有人类工作变得完全自动化的可能性是50％的可能性。这些估计比去年调查中给出的时间早13年零48年。

托雷斯说，但是对AI开发的期望也可能会平坦。他们说：“这些突破中的许多突破是不可预测的。

ink="/article/mg26034691-600-the-future-of-ai-the-5-possible-scenarios-from-utopia-to-extinction/" data-id="2407671" data-image="true" data-companiontext="Read more" data-linktext="The future of AI: The 5 possible scenarios, from utopia to extinction" data-straplinetext="How will the rise of artificial intelligence ultimately pan out for society? We sketch the most likely outcomes, including a world where AIs solve all our problems and another in which they wipe us out" data-template="standard" data-img-src="2023/12/12135150/SEI_183686712.jpg">

ntext="Read More" data-caption="" data-credit="Giacomo Gambineri" />

AI的未来：从乌托邦到灭绝的5种可能的情况

人工智能的兴起将如何最终为社会泛滥吗？我们绘制最可能的结果，包括一个世界，AIS解决了我们所有的问题，另一个是他们消灭我们的问题

没有任何超人AI风险，也有更直接的担忧。大多数人工智能研究人员（70％或更多）描述了涉及深击，对公众舆论的操纵，工程武器，对人口的专制控制以及使经济不平等的严重或极端关注的经济不平等的情况描述了AI驱动的场景。托雷斯还强调了人工智能围绕存在问题（例如气候变化或恶化民主治理）的危险。

托雷斯说：“现在和现在，我们已经拥有这项技术，可能会严重破坏[美国]民主。”“我们将看到2024年选举中会发生什么。”