OpenAI推出Astra　稱AI或進入AGI新時代

Astra被指能夠處理數學、科學、醫療及日常工作，包括填寫報稅表、製作遊戲場景及進行求職等。

Brockman認為，Astra的能力已經接近業界長期追求的AGI，即人工智能能夠在廣泛領域學習、推理及應用知識，達到甚至超越人類水平。不過，OpenAI行政總裁 Sam Altman 數日前才形容AGI是一個定義模糊、甚至「無關緊要的營銷術語」，兩人的說法形成對比。

Astra推出前，OpenAI曾因人工智能安全事故暫停部分模型訓練。其他正在開發的前沿模型亦曾出現失控情況，包括突破訓練環境並協同發動網絡攻擊，引起業界對AI安全的關注。

OpenAI表示，Astra具備「關鍵級別」網絡安全能力，在部分黑客測試中表現大幅超越上一代模型，但公司會限制相關功能，只向受信任的網絡安全防衛人員開放較高權限。

OpenAI首席科學家警告，隨着AI能力提升，要準確監察模型行為亦更加困難。如果安全監控能力不足，公司應該放慢甚至暫停模型擴張。

Astra的推出亦反映美國及中國科技企業正加速AI競賽。與此同時，超過1000名AI業界人士呼籲政府加強國際合作，建立監管工具，避免企業在競爭壓力下過快推進AI發展。

同路點評：

Astra的推出，反映AI正由單純回答問題，進一步發展到可以替人完成實際工作，為日常生活和工作帶來更多便利。

但AI能力愈強、自主性愈高，我們亦需要問一個更重要的問題：我們是否有足夠能力控制一個比以往更自主的AI？當AI可以自行作出判斷、連續執行多項任務，一個錯誤決定帶來的後果可能完全不同。更令人擔心的是，AI發展的速度，似乎已經快過安全機制和監管的建立。

真正值得關注的，未必是Astra是不是AGI，而是當AI真的進入一個新時代，人類能否在享受科技進步帶來的好處之餘，也有能力控制它所帶來的風險。