【生醫評析】歐洲慢半拍? 歐盟對以AI為基礎之醫療器材軟體新近規範趨勢觀察(Part-II)- 「關於人工智慧之定義：主要能力及科學學門」指引文件簡介
(1).png)
~「關於人工智慧之定義：主要能力及科學學門」指引文件簡介
如筆者於前一篇文章中所提到的，為了因應全球人工智慧(Artificial Intelligence，以下簡稱AI)快速發展下，於相關產業領域(例如：行動醫療或自動車輛)所產生法規管理上之需求與潛在影響，歐盟政府於2018年時，積極邀集AI相關領域學者專家就其境內未來AI發展政策進行討論，並開始全盤檢視境內重要產業所可能存在之法規管理缺口。而根據筆者這段時間之觀察，歐盟政府在歷經一連串的討論、檢視後已認知到，除於法規科學或管理上，需視全球AI科技最新進展狀況做相應必要之調整外，就既有規範架構之修正，亦須先給予明確定義並釐清AI科技發展所面臨的倫理挑戰或社會衝擊；在這樣的規範思維下，歐盟執委會(European Commission)於今(2019)年4月8日時，由其下設之「人工智慧高階專家工作小組」(High-Level Expert Group on Artificial Intelligence，以下簡稱 AI-HLEG)，正式對外發布了一份最終修正版「關於人工智慧之定義：主要能力及科學學門(A definition of AI: Main capabilities and scientific disciplines)」指引文件，其主要目的，是就AI科技給予明確之定義。有鑑於這份新指引文件日後將成為歐盟在修訂任何有關「以AI技術為基礎」(AI-based)規範性文件之重要參考依據，故筆者以為，在繼續為讀者們介紹歐盟其他以AI技術為基礎之醫療器材軟體相關文件前，似應有必要稍微花一點時間來與讀者們一同瞭解一下，究竟甚麼是歐盟政府心中所定義的AI。
關於本項指引文件，其初稿是在2018年12月18日時，與同樣由AI-HLEG所草擬之「值得信賴的AI之倫理指引文件」初稿一同公布，經AI-HLEG依於公開徵詢意見階段所收集到由「歐洲AI聯盟」(The European AI Alliance)及外界相關專家回饋之相關意見完成修正後，於今年4月初所公布之最終版指引文件，其內容，除適度擴張先前由歐盟執委會所提出之AI定義外，亦另從考量AI科技也同時是一項科學學門之角度出發，就其實質內涵予以補充，現擇要說明於下：
(一) 規範目的：
關於本項指引文件，其初稿是在2018年12月18日時，與同樣由AI-HLEG所草擬之「值得信賴的AI之倫理指引文件」初稿一同公布，經AI-HLEG依於公開徵詢意見階段所收集到由「歐洲AI聯盟」(The European AI Alliance)及外界相關專家回饋之相關意見完成修正後，於今年4月初所公布之最終版指引文件，其內容，除適度擴張先前由歐盟執委會所提出之AI定義外，亦另從考量AI科技也同時是一項科學學門之角度出發，就其實質內涵予以補充，現擇要說明於下：
(一) 規範目的：
依文件內容，說明所提出之更新版定義，主要是以先前「歐盟執委會於討論會議上所曾提及有關AI之定義」為基本模板來進行調整，亦即：
「人工智慧(AI)是指一種，可透過分析其所處環境，並採取相應行動-伴隨著某些程度之自主性-來達成特定目標之系統。以AI為基礎之系統，其可以是純然以軟體為基礎的，於虛擬世界中發揮作用(例如：語音助手、影像分析軟體、搜索引擎、語音及臉部識別系統)、或者AI可被嵌入各種硬體設備中(例如：先進機器人、自動駕駛汽車、無人駕駛飛機、或物聯網應用)」。
原文為：
原文為：
“Artificial intelligence(AI) refers to systems that display intelligent behavior by analyzing their environment and taking actions – with some degree of autonomy – to achieve specific goals. AI-based systems can be purely software-based, acting in the virtual world (e.g. voice assistants, image analysis software, search engines, speech and face recognition systems) or AI can be embedded in hardware devices (e.g. advanced robots, autonomous cars, drones or Internet of Things applications.”
為了明確釐清AI作為一項科學學門之概念範疇，並避免將來產生規範上之曲解，AI- AI-HLEG建議宜擴張上開定義，以讓更新後之AI定義能更容易被非AI領域之專家們理解及使用，且亦可為在「AI政策建議」及「AI倫理指引文件」中所論及之部分，提供更多細節性資訊。
(二) 甚麼是AI系統？
(二) 甚麼是AI系統？
1. 「合理性」係為「智能」概念組成之重要成分：
AI-HLEG於文件中指出，就經常使用之「人工智慧」(Artificial Intelligence)一詞，理論上應該包含對「智能」(Intelligence)此一概念之精確使用，只不過長期以來，大多數人對「智能」這概念之實質內涵，卻依然非常模糊，而即便是經過心理學家、生物學家及神經科學家之長期研究，目前AI研究者在說明「智能」這項概念時，多會再進一步援用「合理性」(Rationality)這個詞彙進行解釋，也就是指：「為達成實際目標，在所給定欲最適化之特定條件及可用資源下，繼而選擇並採取最佳行動之能力」。對此，AI-HLEG於文件中強調：「雖然『合理性』並非智能概念之唯一組成，但其確實是智能概念組成之重要成分」，基此，而將理性概念取作描述AI科技與草擬AI定義上之重要基礎。
2. AI系統：
(1)說明本項文件所使用之「AI系統」(AI systems)一詞，已為大多數書籍及相關領域所經常採用並廣泛接受，而相較於將其單獨作為一獨立系統，實務上通常會將AI系統作為較大型系統之嵌入元件。
(2)指出AI系統可藉如後方式實現其合理性，亦即：「AI系統可通過感應器感知系統所處環境，從而收集與解釋數據資料，並對其所感知之內容進行推論，或處理從該數據資料所衍生出之資訊，以決定最佳行動為何，然後通過一些『驅動元件』(Actuator)執行相應動作，從而修正其環境」。另外，AI系統亦可使用「符號規則」(Symbolic Rules)、或學習某種「數值模型」(Numeric Model)，且可透過分析環境如何受到其先前行為影響而回頭來調整其行為。
(3)以現實化合理性為基礎，將AI系統分為3個主要能力來加以說明，來協助外界瞭解此系統實際之運作方式(可參考附圖-1)：
(2)指出AI系統可藉如後方式實現其合理性，亦即：「AI系統可通過感應器感知系統所處環境，從而收集與解釋數據資料，並對其所感知之內容進行推論，或處理從該數據資料所衍生出之資訊，以決定最佳行動為何，然後通過一些『驅動元件』(Actuator)執行相應動作，從而修正其環境」。另外，AI系統亦可使用「符號規則」(Symbolic Rules)、或學習某種「數值模型」(Numeric Model)，且可透過分析環境如何受到其先前行為影響而回頭來調整其行為。
(3)以現實化合理性為基礎，將AI系統分為3個主要能力來加以說明，來協助外界瞭解此系統實際之運作方式(可參考附圖-1)：
A. 感應器及感知能力：
a. 安裝於AI系統之感應器，可以是相機、麥克風、鍵盤、網站、或其他輸入設備及物理量感應器(例如：可用來拍攝地板照片以供評估其是否清潔之攝影機鏡頭)。
b. 必需由設計者為其提供一項適於感知於環境中且與所給定目標相關之數據資料之感應器。
c. 所收集之數據資料，可概分為「結構化」及「非結構化」兩類。
b. 必需由設計者為其提供一項適於感知於環境中且與所給定目標相關之數據資料之感應器。
c. 所收集之數據資料，可概分為「結構化」及「非結構化」兩類。
B. 推論/資訊處理與決定作成：
a. 就AI系統之核心，主要是落在於可進行推理/資訊處理之模組上，其將來自感應器之資料作為輸入，並根據所給定之目標，來決定應採取何種相應行動(以清潔AI系統為例，攝影鏡頭會向推理/訊息處理模組提供所拍攝之地板照片，且該模組需決定是否要清潔地板)，而這樣的方式也意味著，AI系統必需將經由感應器所收集到的數據資料，再進一步轉換為推理/訊息處理模組可理解之資訊。
b. 對人類而言，從檢視地板照片來決定我們是否需要清潔地板，是件相當容易的事，但對於機器來說，卻非常的不容易(因為所謂的照片也只不過是一連串0與1的排列而已)。因此，AI系統所含之推理/訊息處理模組，就必須能夠:
- 解釋照片以確定該地板是否為乾淨。
- 產生數字模型(即數學公式)以決定最佳行動方案為何(以清潔AI系統為例，如果從照片所轉換得出之資訊為地板很髒，那麼其最佳行動方案便是啟動清潔，否則即應保持靜止)。
- 產生數字模型(即數學公式)以決定最佳行動方案為何(以清潔AI系統為例，如果從照片所轉換得出之資訊為地板很髒，那麼其最佳行動方案便是啟動清潔，否則即應保持靜止)。
c. 另外，AI- AI-HLEG補充，這裡所使用的「決定」一詞，應被解釋為是選擇採取行動之任何行為，而並不必然指該AI系統是完全自動化的，換句話說，一項「決定」也可以是某個AI系統對人類決策者所提供之建議選項。
C. 採取行動：
a. 一旦決定要採取何種行動後，AI系統即準備好藉由本身所配備之「驅動元件」來執行該項行動，不過，此處須注意的是，驅動元件並不必然一定為物理性的，其也可以是一種軟體。
b. 因AI系統所決定採取並執行之行動很可能會修改所處之環境，故下次AI系統必需使用感應器，再次從修改後環境中感知可能之不同資訊。又，AI系統並非總是能為所給定之目標選擇最佳行動方案，原因是，就所給定目標之達成，礙於現實也只能根據「有限資源」(例如：時間或計算能力)來達成「受限制之合理性」。
附圖-1：AI系統示意圖
參考資料：“A definition of AI: Main capabilities and scientific disciplines (AI-HLEG, April 8, 2019)”, p.2
(三)AI領域所涵蓋之重要科學學門：
依文件說明，就現行用來建構AI系統之相關技術，依所具能力屬性，主要可區分為兩大類能力技術組群：第一大類，是「推論能力」技術組群；而第二大類，則是「學習能力」技術組群，至一般所稱「機器人技術」，則屬另一個非常相關之次科學學門，現一併稍加說明於下：
1.「推論與決策作成能力」技術組群：
(1) 此類技術組群包括：知識表現、推理、規劃、安排、搜尋及最適化。
(2) 這些技術可讓AI系統具備對由感應器所收集並傳遞而來之資料進行推論之能力。為實現這一點，還必需將前述資料轉換為知識(包括將知識進行模組化)，一旦當知識被模組化後，其下一步，即是將其用來進行解釋，包括：藉由符號規則、規劃、安排活動、透過對大型解決方案組群進行搜尋及針對問題最適化所有可能之解決方案等方式來進行推論；而最後一步，則是確定應採取何種行動(於AI系統中所包含之推理/決策作成部分通常是相當複雜的且需上述所提及之各項技術進行組合)。
2. 「學習能力」技術組群：
(1) 此類技術組群包括：機器學習(例如：監督式學習、增強學習等)、神經網絡、深度學習、決策樹及許多其他相關學習技術。
(2) 這些技術可讓AI系統具備學習如何解決那些無法被精確特定(或那些無法用符號推論規則加以描述)之問題的能力。另，於此類案例中也包括那些作為電腦視覺或行為預測所必須附隨之感知能力(例如：語音及語言理解)。
3. 「機器人技術」次科學學門：
(1) 關於「機器人技術」，在概念上可被定義為：「AI於物質世界中之活動」(或有稱為「體現的AI」)。
(2) 機器人是物理機器，除需應對實體世界之動力學、不確定性及複雜性外，尚需具備感知、推理、行動、持續學習及與其他系統互動等能力(此類能力通常會被整合在機器人系統之控制架構中)。
(3) 除於AI科學學門外，其他學門於機器人之設計與操作上也扮演著一定角色(例如：機械工程及控制理論)。有關機器人之案例大致包括：機器手臂、自動駕駛載具(例如：汽車、無人飛機)、人形機器人、機器人吸塵器等。
附圖-2：AI領域中次學門及其關係之簡化說明：
參考資料：“A definition of AI: Main capabilities and scientific disciplines (AI-HLEG, April 8, 2019)”, p.2
(四) 更新版AI定義
按照整份指引文件內容，歐盟AI-HLEG方面所建議使用之新AI定義如下：
「人工智慧(AI)系統，為一種由人類所設計，即給定一個複雜之目標，透過數據資料之取得來感知環境，並於物理或數位空間採取行動，解釋所收集之結構化(或非結構化)數據資料，就知識或處理相關資訊過程中所衍生之資料進行推論，並為達成所給定之目標而決定應採之最佳行動之軟件(或可能亦包含硬體)系統。AI系統可使用符號規則或學習某種數值模型，且還可透過分析環境究如何受到他們先前所採行動之影響來調整其本身行為。而作為一門科學學門，AI領域涵蓋多種方法及技術，例如：機器持續學習(其中深度學習與強化學習為特定案例)、機器推論(包括：規劃、安排、知識表達、及推論、搜尋與最適化)、及機器人技術(包括：控制、感知、產應器及驅動元件，以及將其他所有相關技術整合到「網絡-實體系統」(Cyber-Physical Systems，或有稱虛-實整合系統)中」。
原文為：
“Artificial intelligence (AI) systems are software (and possibly also hardware) systems designed by humans that, given a complex goal, act in the physical or digital dimension by perceiving their environment through data acquisition, interpreting the collected structured or unstructured data, reasoning on the knowledge, or processing the information, derived from this data and deciding the best action(s) to take to achieve the given goal. AI systems can either use symbolic rules or learn a numeric model, and they can also adapt their behavior by analyzing how the environment is affected by their previous actions. As a scientific discipline, AI includes several approaches and techniques, such as machine learning (of which deep learning and reinforcement learning are specific examples), machine reasoning (which includes planning, scheduling, knowledge representation and reasoning, search, and optimization), and robotics (which includes control, perception, sensors and actuators, as well as the integration of all other techniques into cyber-physical systems)”
總上述，在與筆者一同檢視完由歐盟AI-HLEG所提出之指引文件內容及更新版AI定義後，讀者們對於此項新興技術之核心概念及其所涉領域範疇，是不是已有了某種程度之瞭解？而雖然，我們以極短的時間瀏覽完這份文件，但在這最後，筆者還是覺得應該要稍微提醒一下讀者，在這份文件中，其實埋了一個非常容易被閱讀者忽略的想法，那就是…這份文件內容，是站在歐盟層級的高度上，以一種「知識共享」的概念，來貫穿由歐盟AI-HLEG所提出之各項概念說明(當然這也包括了更新版之AI定義)，我們如果從一種規範性的角度來切入思考，這樣的明確劃定或闡明某種新科技或技術涵蓋範圍的知識共享，從表面上看，是想避免定義模糊不清下的曲解，但如再更深一層想，其實這不也正等同於預先充實了此類以AI為基礎之相關產品其未來於管理或規範上的可預見性？而話又說回來，任何一項新興科技之管理與正向發展，並不能單純仰賴法規上之可預見性為「經」，而無倫理與社會衝擊等分析為「緯」來同時作為配套，故於這樣的想法下，筆者後續將會以另一篇文章來與讀者們一同觀察一下，同樣是由歐盟AI-HLEG所草擬並與本項指引文件草案同時發布之「AI倫理指引文件」內容，及其未來對歐洲境內以AI為基礎相關產品之規範管理(例如醫療器材軟體)，又將會帶來何種影響？
「人工智慧(AI)系統，為一種由人類所設計，即給定一個複雜之目標，透過數據資料之取得來感知環境，並於物理或數位空間採取行動，解釋所收集之結構化(或非結構化)數據資料，就知識或處理相關資訊過程中所衍生之資料進行推論，並為達成所給定之目標而決定應採之最佳行動之軟件(或可能亦包含硬體)系統。AI系統可使用符號規則或學習某種數值模型，且還可透過分析環境究如何受到他們先前所採行動之影響來調整其本身行為。而作為一門科學學門，AI領域涵蓋多種方法及技術，例如：機器持續學習(其中深度學習與強化學習為特定案例)、機器推論(包括：規劃、安排、知識表達、及推論、搜尋與最適化)、及機器人技術(包括：控制、感知、產應器及驅動元件，以及將其他所有相關技術整合到「網絡-實體系統」(Cyber-Physical Systems，或有稱虛-實整合系統)中」。
原文為：
“Artificial intelligence (AI) systems are software (and possibly also hardware) systems designed by humans that, given a complex goal, act in the physical or digital dimension by perceiving their environment through data acquisition, interpreting the collected structured or unstructured data, reasoning on the knowledge, or processing the information, derived from this data and deciding the best action(s) to take to achieve the given goal. AI systems can either use symbolic rules or learn a numeric model, and they can also adapt their behavior by analyzing how the environment is affected by their previous actions. As a scientific discipline, AI includes several approaches and techniques, such as machine learning (of which deep learning and reinforcement learning are specific examples), machine reasoning (which includes planning, scheduling, knowledge representation and reasoning, search, and optimization), and robotics (which includes control, perception, sensors and actuators, as well as the integration of all other techniques into cyber-physical systems)”
總上述，在與筆者一同檢視完由歐盟AI-HLEG所提出之指引文件內容及更新版AI定義後，讀者們對於此項新興技術之核心概念及其所涉領域範疇，是不是已有了某種程度之瞭解？而雖然，我們以極短的時間瀏覽完這份文件，但在這最後，筆者還是覺得應該要稍微提醒一下讀者，在這份文件中，其實埋了一個非常容易被閱讀者忽略的想法，那就是…這份文件內容，是站在歐盟層級的高度上，以一種「知識共享」的概念，來貫穿由歐盟AI-HLEG所提出之各項概念說明(當然這也包括了更新版之AI定義)，我們如果從一種規範性的角度來切入思考，這樣的明確劃定或闡明某種新科技或技術涵蓋範圍的知識共享，從表面上看，是想避免定義模糊不清下的曲解，但如再更深一層想，其實這不也正等同於預先充實了此類以AI為基礎之相關產品其未來於管理或規範上的可預見性？而話又說回來，任何一項新興科技之管理與正向發展，並不能單純仰賴法規上之可預見性為「經」，而無倫理與社會衝擊等分析為「緯」來同時作為配套，故於這樣的想法下，筆者後續將會以另一篇文章來與讀者們一同觀察一下，同樣是由歐盟AI-HLEG所草擬並與本項指引文件草案同時發布之「AI倫理指引文件」內容，及其未來對歐洲境內以AI為基礎相關產品之規範管理(例如醫療器材軟體)，又將會帶來何種影響？
參考資料：
- 有關「歐洲慢半拍? 歐盟對以AI為基礎之醫療器材軟體新近規範趨勢觀察(Part-I)-醫療器材法規管理架構範圍內於健康照護領域使用之獨立軟體之資格及分級指引文件(MEDDEV 2.1/6)簡介」文章全文，可至巨群網站：http://www.giant-group.com.tw/law.html
- About the full text of the “A definition of Artificial Intelligence: main capabilities and scientific disciplines”, please refer to this website：https://ec.europa.eu/digital-single-market/en/news/definition-artificial-intelligence-main-capabilities-and-scientific-disciplines
- For more information about the “High-Level Expert Group on Artificial Intelligence”, please refer to this website：https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence
- For more information about “The European AI Alliance”, please refer to this website：https://ec.europa.eu/digital-single-market/en/european-ai-alliance
- About the full text of the “Draft Ethics guidelines for trustworthy AI”, please refer to this website：https://ec.europa.eu/digital-single-market/en/news/draft-ethics-guidelines-trustworthy-ai
- For more information about the “Artificial Intelligence for Europe(COM(2018) 237 final)”, please refer to this website：https://ec.europa.eu/digital-single-market/en/news/communication-artificial-intelligence-europe
