OpenAI執行長警告AI風險　呼籲聯合國制定嚴格治理

OpenAI 執行長山姆·阿特曼於本日向聯合國安全理事會提交簡報，強調人工智慧的發展必須以「極度謹慎」為前提。阿特曼指出，近年來深度學習模型的規模與效能持續突破，若缺乏適當的治理框架，技術的快速擴散可能在短時間內產生難以預測的社會與安全衝擊。簡報中提及，從自動化決策到生成式內容的廣泛應用，都已顯示出人工智慧在資訊操控、金融市場波動以及軍事領域的潛在影響，呼籲國際社會在研發與部署階段同步建立風險評估與監管機制。

在此之前，全球多個國家與國際組織已展開對人工智慧治理的討論。美國、歐盟與日本等先進經濟體相繼提出相關政策草案，聚焦於資料隱私、演算法透明與責任歸屬等核心議題。聯合國亦於去年成立了人工智慧與機器學習特別小組，旨在促進跨國合作與知識共享。阿特曼的發言正值這股政策浪潮的高峰，凸顯產業領袖與國際決策層之間的溝通需求，並提醒各國在追求技術優勢的同時，不能忽視倫理與安全的底線。

人工智慧的加速發展已在多個產業顯現出顯著效益，例如醫療診斷的精準度提升、供應鏈管理的即時優化以及語言翻譯的即時性改善。然而，隨之而來的風險亦不容小覷。生成式模型若被濫用，可能製造高度仿真的假訊息，進一步削弱公共資訊的可信度；在金融領域，演算法交易的自動化若缺乏監控，可能引發市場劇烈波動；更有觀點指出，未來軍事系統若採用自主決策的人工智慧，將對國際安全構成前所未有的挑戰。阿特曼在簡報中以具體案例說明，呼籲各方在技術突破的同時，必須同步設置防護機制，以免因過度樂觀而忽略潛在危害。

針對如何落實「極度謹慎」的原則，阿特曼提出了三項具體建議：第一，建立全球統一的安全測試標準，確保每一代模型在公開前皆經過嚴格的風險評估；第二，推動開放式的監督平台，讓學術界、民間團體與政府部門能共同檢視模型的運作與影響；第三，鼓勵研發資源向可解釋性與公平性方向傾斜，減少因黑箱演算法導致的偏見與不當決策。這些建議與聯合國安全理事會長期以來關注的非傳統安全威脅相呼應，為未來制定具體政策提供了可操作的方向。

總結而言，山姆·阿特曼在聯合國安全理事會的發言不僅是對人工智慧技術本身的警示，更是對全球治理體系的呼籲。隨著人工智慧逐步滲透至日常生活與國家安全的各個層面，如何在促進創新與防範風險之間取得平衡，將成為未來國際社會必須共同面對的重大課題。唯有在多方合作、透明監督與嚴謹法規的框架下，才能確保人工智慧的發展真正服務於人類福祉，而非成為新的不穩定因素。(事實來源:中央社)