台商大陸智財權服務網-歐盟設立AI辦公室 推動人工智慧生態系發展與監管

歐盟設立AI辦公室 推動人工智慧生態系發展與監管

2024-05-30 出處 / 科技產業資訊室 (iKnow) - 黃松勳

歐盟近日揭露了新成立的AI辦公室架構細節,這個機構將在歐盟的人工智慧法 (AI Act)生效後,扮演建構歐洲AI生態系統和監管人工智慧風險的關鍵角色。此風險導向的AI法規預計將於7月底前正式生效,而AI辦公室將從6月16日開始運作。

AI辦公室的成立反映了歐盟在人工智慧領域的遠大抱負。它將負責協助規範AI的風險,同時也將推動AI的應用和創新,扮演雙重角色。歐盟希望能透過這個新機構,對全球AI治理產生廣泛影響,因為許多國家和地區都正尋求如何有效管理人工智慧技術。AI辦公室將由五個單位組成,分工協力完成不同的任務。

其中一個單位將專注於「法規與合規」事務,包括與歐盟成員國協調,以確保AI法規能獲得一致的執行和實施。該單位還將參與調查和違規處理,並負責處以相關制裁。歐盟預期AI辦公室將在國家層級的治理機構基礎上,發揮支援和監督的作用,確保全面執行AI法規。

另一個單位將專門處理「AI安全」相關事宜。歐盟表示,該單位將著重於「辨識高能力通用模型(GPAIs)的系統風險、可能的緩解措施,以及評估和測試方法」。所謂GPAIs是指近期興起的大型生成式AI模型,例如ChatGPT背後的基礎模型。不過,歐盟指出,該單位主要關注具有「系統風險」的GPAIs,也就是訓練運算量超過一定門檻的模型。

AI辦公室將直接負責執行AI法規中關於GPAIs的規定,因此相關單位預計將對這類模型進行測試和評估,並有權要求AI公司提供訓練數據和模型等資訊,以利監管。此外,AI辦公室的合規單位也將制定GPAIs需遵循的模板,例如:用於總結訓練數據中的版權資料。

設立專門的AI安全單位看似勢在必行,以確保AI法規中關於GPAIs的規定能夠得到充分執行。但這也被視為歐盟對近期國際AI治理發展的回應,例如:英國和美國先後宣布成立AI安全研究所。不過,歐盟AI安全單位與之最大的區別在於,它將獲得法律賦予的權力。

AI辦公室的第三個單位將專注於「AI與機器人卓越」領域,包括支持和資助人工智慧研發。歐盟表示,該單位將與先前宣布的「GenAI4EU」倡議協調合作,後者旨在刺激歐洲通用人工智慧模型的發展和應用,包括升級歐洲的超級電腦網絡,支援模型訓練。

第四個單位的重點是「AI促進社會公益」。歐盟表示,這個單位將設計和執行AI辦公室在國際層面上,推動具有正面社會影響的大型AI項目,例如:天氣預報、癌症診斷和數位複製文化遺產等領域。今年4月,歐盟就宣布將與美國開展AI安全與風險研究合作,並將AI用於公共利益領域列為合作重點之一。

最後一個單位將負責「AI創新和政策協調」。該單位的任務是確保歐盟人工智慧策略的貫徹執行,包括監測趨勢和投資、透過歐洲數位創新中心網絡刺激AI的應用、建立AI製造工廠,並透過支持監管沙盒和實際測試,來促進創新生態系統的發展。

在AI辦公室的五個單位中,有三個單位致力於推動人工智慧的應用、投資和生態系建立,而只有兩個單位專注於監管合規和安全。這種安排似乎是在向業界傳達歐盟制定AI法規的目的,並非阻礙創新,而是希望透過可信賴的監管來促進AI的採用。

AI辦公室的成立,反映出當前AI治理趨勢,也標誌著歐盟在AI治理方面邁出了重要一步。透過同時推動創新和監管,歐盟期望能夠建構一個健全且永續發展的AI生態系,並在全球層面上發揮影響力。雖然這項艱鉅任務仍充滿挑戰,但歐盟似乎已下定決心,要在這場科技變革浪潮中樹立起值得被效法的標竿。

訂閱電子報

每月寄送一次,提供智財權發展與
新知讓您完整掌握最新消息、國際動態