(SeaPRwire) –   Dario Amodei 敦促人类“醒来”，在为时已晚之前解决生存风险

领先的人工智能公司 Anthropic 的首席执行官 Dario Amodei 发出了一个不祥的公开警告，称人类正处于获得“几乎无法想象的力量”的边缘，而人类却对此毫无准备。

在一篇近 20,000 字的文章《技术之青春期》中，Amodei 描绘了一个不久的将来，在未来几年内，人工智能系统将比任何诺贝尔奖获得者或政治家都强大得多，并且可供所有人使用。Amodei 透露，一个关键且加速的因素是，人工智能的发展现在正在创造一个自我强化的反馈循环。

“由于人工智能现在编写了 Anthropic 的大部分代码，它已经极大地加速了我们在构建下一代人工智能系统方面的进展，”他写道，并警告说该公司即将“达到当前一代人工智能自主构建下一代人工智能的程度。”

他认为，如果没有果断而谨慎的行动，这项技术可能导致灾难性的风险，从大规模失业到人类灭绝。其他生存风险包括人工智能驱动的监控、宣传和自主武器可能带来的“全球极权主义独裁”。

Amodei 还详细介绍了“自主风险”，即人工智能系统可能“失控并压倒人类”——他指出，这种危险甚至不需要科幻小说中的实体机器人军队。这篇文章令人不寒而栗地观察到“许多人类行为已经代表那些行为者没有亲自见过的人类进行。”

Amodei 强调，最紧迫的威胁之一是人工智能可能极大地降低制造生物武器和其他大规模杀伤性武器的门槛。

“一个精神错乱的独行者可以实施校园枪击案，但可能无法制造核武器或释放瘟疫，”他写道。然而，一个强大的人工智能将使“每个人都成为一名博士级别的病毒学家，可以一步一步地指导他们设计、合成和释放生物武器的过程。”

他警告说，在最坏的情况下，强大的人工智能理论上可以指导创造一种能够“毁灭地球上所有生命”的合成病原体。

作为关键行业领导者之一，其公司是 OpenAI 的主要竞争对手，Amodei 呼吁进行“外科手术式”的监管，从透明度法律开始，以建立必要的安全措施。

“人类需要醒来，”Amodei 总结道，他将未来几年视为文明成熟度的关键考验。随着技术本身正在助长其自身的飞速发展，他敦促采取集体行动，将人工智能的“闪闪发光的奖品”从潜在的毁灭中引开。