台商大陸智財權服務網-ChatGPT執行長:AI應成立監管機構

ChatGPT執行長:AI應成立監管機構

2023-05-18 出處 / 聯合報/ 記者胡玉立/綜合報導

研發製造ChatGPT的OpenAI公司執行長奧特曼十六日在參院聽證會表示,政府干預,對減輕日益強大的人工智慧(AI)系統風險來說至關重要;他提議成立一個美國或全球監管機構,為強大的AI系統頒發許可證,並有權「取消許可及確保符合安全標準」。

奧特曼坦承,「隨著AI科技的進步,我們明白世人對AI將如何改變我們的生活方式感到焦慮。我們也有同感。」在被問及他最擔心AI什麼事時,奧特曼迴避談論細節,只說它可能會「對世界造成重大傷害」,「如果這項科技出了問題,可能會大錯特錯」。

他提議以全新監管機構實施保障措施,阻止AI模型「狂放的自我複製和自我滲透」;此說法暗示了對未來先進人工智能系統的擔憂。

位於舊金山的OpenAI初創公司去年底發布免費聊天機器人ChatGPT後,迅速引起公眾關注。人們從一開始教育界擔心ChatGPT被用來作弊,現已擴大到各界廣泛擔憂生成式AI工具會誤導人類、傳播謊言、侵犯智財權和顛覆某些工作。

歐洲立法者將全面制定新AI規範,美國機關已承諾打擊違反現有公民權利和消費者保護法的有害AI產品;奧特曼及其他科技公司執行長則被請到白宮進行討論。

參院司法委員會隱私、技術和法律小組委員會主席、康乃狄克州民主黨參議員布魯曼索表示,AI公司應被要求在發布產品前測試其系統並披露已知風險,他對未來AI系統如何破壞就業市場的穩定,特別擔憂。奧特曼基本同意此說,但對工作的未來持更樂觀看法。

IBM隱私信任長蒙哥馬利 和紐約大學名譽教授馬庫斯十六日也受邀作證。馬庫斯與一群AI專家共同呼籲OpenAI等科技公司暫停研發更強大AI模型半年,好讓社會有更多時間考慮風險。

密蘇里州共和黨參議員霍利說,AI科技對選舉、就業和國家安全具重大影響,十六日的聽證是「了解國會該做什麼的關鍵第一步」。

訂閱電子報

每月寄送一次,提供智財權發展與
新知讓您完整掌握最新消息、國際動態