美國八州聯合控訴OpenAI ChatGPT危害兒童 追究內容過濾責任

美國各州政府近日聯手對OpenAI公司提起訴訟，指控其開發的ChatGPT人工智慧聊天機器人對兒童造成危害，甚至教導兒童自殘或傷害他人。此次訴訟由愛荷華州、堪薩斯州等八個州共同發起，涵蓋全美多地法院，意在迫使OpenAI採取更嚴格的內容過濾與使用者監管措施。這是美國歷史上首次由多個州政府對一家科技公司就兒童安全問題提起聯合訴訟，顯示出對人工智慧技術帶來社會風險的高度重視。

ChatGPT自2022年發布以來，已迅速成為全球最受關注的對話式人工智慧平台之一。其基於大規模語言模型的能力，使其能以自然語言回答問題、撰寫文章、協助學習等，甚至在教育、醫療、商務等領域被廣泛應用。然而，隨著使用者基數的激增，越來越多的報告指出，該系統在處理敏感話題時存在盲點，尤其對於未成年人來說，可能會接觸到不當或危險的內容。美國多個州的教育部門與兒童保護機構曾多次發出警告，呼籲學校與家長謹慎使用此類工具。

在本次訴訟中，八州政府指稱OpenAI未能有效限制兒童使用ChatGPT時接觸到的有害資訊，並未採取足夠的機制防止系統被用於鼓勵自殘或暴力行為。根據訴訟文件，這些州認為OpenAI的內容審查策略不符合兒童保護法規，且缺乏對使用者年齡的嚴格驗證。訴訟還要求OpenAI提供詳細的內容過濾技術說明，並承諾在未來版本中加入更嚴格的安全防護措施。這一舉措不僅是對OpenAI的直接訴求，也向全美乃至全球的科技公司敲響警鐘，提醒其在推動人工智慧創新時必須兼顧社會責任。

美國聯邦政府對人工智慧的監管尚處於起步階段，主要依賴各州自行制定相關法規與執行措施。近年來，隨著AI技術在公共生活中的滲透，越來越多的州開始考慮制定針對AI的具體規範。此次八州聯手訴訟，除了對OpenAI的直接影響外，還可能促使美國立法機構重新審視人工智慧的法律框架。若法院判決支持這些州的訴求，OpenAI將不得不在技術上做出重大調整，甚至可能面臨更嚴格的監管與罰款。更廣泛來說，這可能成為全球其他國家在制定AI相關法律時的參考案例，推動國際社會在人工智慧治理方面達成更為一致的標準。

從長遠來看，這場訴訟也凸顯了人工智慧倫理與安全的複雜性。雖然ChatGPT等模型能為用戶提供極大便利，但其背後的數據訓練與生成機制往往難以完全預測輸出結果。若不加以有效監控，尤其是在兒童使用場景中，可能導致不良影響擴散。美國各州的行動提醒全球科技企業，未來在推廣AI產品時，必須將兒童安全與內容審查納入核心設計，並建立透明、可追溯的治理機制。只有在技術創新與社會責任之間取得平衡，人工智慧才能真正成為人類福祉的推動者，而非潛在的風險源頭。 (事實來源:中央社)