Anthropic研究員警告AI或十年內滅絕人類

甚至有業界人士認為，人工智能最早可能在2030年前對人類造成滅絕性威脅。

Anthropic前研究員Jacob Coxon日前宣布辭職，批評Anthropic及競爭對手OpenAI沒有妥善處理AI風險，反而競相開發能夠自我改進的超級智能，形容業界正在「拿人類的生命冒險」。

他的言論獲多名Anthropic員工認同。其中，負責AI模型對齊工作的Evan Hubinger表示，業界應對AI極端風險的進度已經落後。他估計，未來十年內，AI導致人類滅絕的可能性超過百分之十。另一名研究人員Samuel Marks亦表示，AI可能在未來數年造成嚴重後果，而且職位越高的員工似乎越為此感到擔憂。

Anthropic則表示，公司一直承認AI既能帶來巨大好處，也可能帶來前所未有的風險，並持續加強模型的安全防護。

不過，Tesla及xAI創辦人馬斯克質疑有關說法，形容事件可能是一場「心理戰」，認為有人藉此影響公眾對AI的看法。

同路點評：

人類要走向滅絕，並不是AI突然變強就一定會發生。AI需要發展到甚麼程度？又要如何突破人類控制？當中還有多少不可預測的因素？目前都沒有確切答案。因此，與其因為「AI可能滅絕人類」而恐慌，更值得討論的是，我們能否在風險出現之前做好準備。

對科技企業而言，重要是在追求更強大模型的同時，加強安全研究和風險控制，確保模型經過充分測試，並建立有效的監管和問責機制。對普通人而言，也不需要每天擔心人類滅絕，更實際的是學懂辨別AI生成的假資訊，了解AI可能被濫用的方式，並保持對新技術的基本認識。