Anthropic執行長呼籲放慢AI研發確保安全受聯安理會監督

Anthropic執行長阿莫戴（Dario Amodei）於本日於聯合國安全理事會（UNSC）會議上發表講話，明確表示公司將在必要時放慢人工智慧（AI）技術的研發與部署步伐，以確保新一代模型的安全性與可控性。阿莫戴指出，AI 產業正處於快速成長的階段，從語言模型到生成式影像系統的功能日益提升，然而同時也伴隨著錯誤資訊散播、深度偽造、決策偏見等風險。作為業界少數以安全為核心使命的公司之一，Anthropic願意在技術突破與風險管理之間取得平衡，並願意接受國際組織的監督與建議。

在過去數年，全球多起AI相關的安全事件加速了國際社會對於人工智慧治理的關注。2023年美國與歐盟先後公布AI風險管理框架，要求大型模型在公開前完成透明度與可測試性審查；同年，OpenAI的ChatGPT因生成不實資訊而被多國政府警告。這些案例凸顯出技術開發者若未同步建立風險評估機制，可能對公共安全、資訊秩序甚至國際安全構成衝擊。UNSC在近年亦開始將AI列入討論議題，認為先進的自動化系統若被軍事化或誤用，將改變戰爭形態與戰略平衡。

Anthropic自2021年成立以來，一直以「對齊」與「安全」為研發核心，推出的Claude系列模型在對話品質與安全防護上持續優化。公司內部設有專門的安全團隊，負責風險評估、對抗測試以及模型行為的可解釋性研究。阿莫戴在發言中提到，若在未來的模型迭代中發現潛在的危害或無法即時解決的偏差，Anthropic將主動暫緩新版本的發布，甚至回退至先前較為保守的版本，以避免對使用者或社會造成不可預見的負面影響。此舉不僅是對自身責任的承諾，也呼應了聯合國在AI倫理與安全領域的呼籲。

UNSC的會議紀錄顯示，與會代表普遍關注AI在資訊戰、偽資訊散布與自動化武器化方面的潛在威脅，並呼籲各國政府與企業建立跨國合作機制。阿莫戴的表態被視為私部門對國際治理的正面回應，亦為其他AI公司樹立了「安全優先」的示範。部分成員國代表指出，若企業能在研發初期即納入風險評估，並在必要時主動放慢腳步，將有助於減少未來因技術失控而引發的國際爭端或人道危機。

最後，阿莫戴強調，AI的長遠發展離不開多方協作，包括政府、學術界、民間團體與產業界的共同參與。他呼籲聯合國持續推動全球AI治理框架，並提供透明的監督機制，使企業在追求創新時不致忽視安全底線。此番承諾不僅是Anthropic對自身技術路線的自律，也是對全球AI安全生態系統的貢獻，顯示在快速演變的科技浪潮中，負責任的研發態度仍是維護國際和平與公共福祉的關鍵。(事實來源:中央社)