分享
人工智能帶來了巨大的希望，但也引發了許多道德問題。衛生和保健領域有很多可以做出貢獻的領域，相關技術、治理和監管辯論也有巨大的利益。
人工智能(AI)無疑是去年關注的熱點。它很可能在今年繼續吸引大量關注，即使我們可能正在達到炒作曲線的頂點。我們可以期待2020年人工智能的新應用，特別是基於大數據機器學習的應用，以及根本性的進步。最近新興和令人興奮的領域包括創造性人工智能、人工智能的科學發現和人工智能測試人工智能。
考慮到醫療保健的巨大數據強度，可能沒有哪個領域比它對利用人工智能更感興趣了。大量的數據是由醫學影像、醫院信息係統和日常生活活動的記錄產生的。這些都是當今機器和深度學習的強項。此外，正是在健康方麵，我們已經看到了立即使患者受益的進展。AI可以和世界領先的醫生一樣確定50多種眼疾的正確治療方法(De Fauw et al. 2018)。健康應用程序在自然語言識別和人工智能診斷的幫助下，由虛擬醫生提供建議。80%的衛生高管認為，到明年，人工智能將在他們的組織中與人類並肩工作(埃森哲谘詢公司2018年)。
如此巨大的進步並非沒有對人工智能的重大擔憂。我們都聽說過深度造假，即人工智能生成的假視頻、假照片和假文字，幾乎無法分辨真偽。他們散布在我們周圍，以欺騙我們的政治偏見，身份盜竊和金融詐騙。然而，在這裏，我不打算關注這種濫用，而是關注與人工智能有關的更普遍的倫理問題。許多人工智能和倫理框架已經被開發出來。ETH Zürich (Venema 2019)最近的一項分析顯示，透明、正義和公平、不傷害、責任和隱私等倫理原則趨於一致。
對人工智能和倫理道德的考驗
人工智能和倫理框架正在接受考驗。其中比較著名的一項工作是歐洲委員會人工智能高級別小組試行《人工智能和倫理準則》(歐洲委員會2019年)。2019年夏天，EIT Health決定也為這類試點做出貢獻，開展了一項調查和一係列案例研究(EIT Health 2019a)，並於10月在柏林舉行的世界衛生峰會(EIT Health 2019b)上發表。EIT Health是歐洲理工學院健康與老齡化創新社區的簡稱。這一全歐盟倡議為創新項目提供資金，刺激創業精神，並推進專業教育。
顯然，但仍然需要記住的是，衛生界及其研究人員和創新者對道德有很多話要說。畢竟，在他們的日常保健和護理實踐中，道德是一個關鍵的考慮因素。當個人和他們的生命處於危險之中時，倫理就處於尖銳的邊緣。也許不那麼明顯的是，醫療創新社區也已經大量參與人工智能。據估計，20%的EIT衛生活動以某種形式利用了人工智能。保守估計，這一數字將在未來幾年翻一番。
歐共體高級別小組的人工智能倫理準則涉及七個領域:
•人力代理和監督。
•技術穩健性和安全性。
•隱私和數據治理。
•透明度，包括可追溯性。
•多樣性、非歧視和公平。
•社會和環境福祉。
•問責製。
EIT Health調查發現，受訪者最優先考慮的是隱私和數據治理(包括數據保護和數據訪問)以及技術穩健性和安全性(包括人工智能的網絡彈性和可重複性)。緊隨其後的是可追溯性、人力代理和監督。人們對現有的問責程序和方法有相當大的信心，這是意料之外的。答複者還表示需要進一步澄清準則和對官僚主義的關切。
向衛生和保健部門學習
調查的受訪者也在他們的具體實踐中提供了見解。這表明倫理考量往往是創新和應用的重要組成部分。這些實踐也說明了與許多其他部門可能還不熟悉的倫理(包括倫理和人工智能)合作的方法。例如，事前倫理影響評估委員會和(臨床)試驗指南。這些措施還包括事後部署做法，例如上市後監督，以便經常監測衛生創新的績效和相關道德影響，以及審計、報告和糾正程序。
這些既定的程序可能並不總是，也不是所有人都欣賞。它們可能代價高昂，可能扼殺創新，有時還可能被耍花招(Dillner 2012)或被流氓行為者繞過。健康醜聞再熟悉不過了，因為所謂的高創新成本而合理的價格上漲也再熟悉不過了。然而，衛生保健中的倫理程序為人工智能和倫理的治理提供了最有價值的參考點。衛生部門與其他部門就最佳和不良做法進行交流，可大大有助於增進對人工智能和倫理實際治理備選辦法的了解。
困境
EIT健康調查和案例研究也為人工智能帶來的倫理困境提供了有趣的例子。讓我提兩個:人類vs機器，個人vs集體。
人與機器的兩難境地與維護人的監督和尊重人的自主性有關。一個擔心是，人工智能的速度比人類快得多，可能比人類更準確，人類的判斷會被邊緣化。然而，一般來說，EIT健康調查的受訪者強調，目前人工智能隻提供輸入，而人類的判斷占主導地位。然而，必須仔細監測這種情況，因為它可能會演變。另一個擔憂是，醫療專業人員的工作將被“機器”取代。這種擔憂沒有得到調查的證實。
第二個困境是眾所周知的:個人利益與公眾利益的對抗。由於人工智能和大數據，這一點越來越明顯。由於大量的數據和人工智能，某些健康狀況的早期檢測現在成為可能，從而防止巨額治療費用。EIT健康報告中的一個案例研究涉及到腦中風。由於我們還麵臨著醫療和保健成本的爆炸式增長，人們可能會主張有一種集體義務，即利用這種包含成本的人工智能分析。但這種經濟健康公共利益可能不足以成為允許淩駕於個人數據保護等個人權利之上的理由。辯論還在繼續!
看這個空間
與此同時，正在進行的重要進展應受到衛生創新界的密切關注，在我看來，也應積極讓該界參與進來。首先，在技術領域:人工智能繼續高速發展，從健康創新的角度來看，我們需要特別注意安全和問題，如數據中毒的風險。我們需要堅持提高算法的透明度。最重要的是，我們需要解決數據訪問和數據使用問題，從動態同意到處理異構數據(就其格式、語義、質量及其隨時間和空間的可變性而言)。
其次，行業和民間社會在治理和理解人工智能的使用和影響方麵正在取得進展。許多財團都在解決這個問題。一些著名的包括openAI (openai.com)、FutureSociety (thefuturesociy.org)和AI4People (eismdd.eu / AI4People)。我也很想看到這樣一個負責任的ai平台來進行健康創新!也許是世衛組織與世界各地創新行動的一個合資企業?發展全球治理是機遇，也是當務之急:衛生畢竟是一項全球共同利益，是一項可以超越國家主權關切的共同利益。
第三，監管和自律舉措正在迅速推進。衛生創新應成為這些發展的夥伴。EIT Health調查的絕大多數受訪者(60%)預計他們的AI解決方案將需要監管部門的批準。甚至像穀歌這樣的大型數字平台公司，現在也在呼籲監管機構調整人工智能。
在歐洲，德國數據倫理委員會(Datenethikkommission)最近發布了一份關於負責任人工智能的廣泛分析，其中包含一個有趣的5級人工智能風險分類方案。歐共體的高級別人工智能小組提出了投資建議，歐洲人工智能聯盟(EC .europa.eu/futurium/en/eu-ai-alliance)提供了他們的人工智能試點報告和道德準則。另一個專家組分析了人工智能對歐洲責任監管的影響。他們得出的結論是，雖然現有的責任製度提供了基本的保護，但人工智能具有潛在的複雜性和有限的可預測性，這使得受害者更難要求賠償。歐洲委員會正在就人工智能以及數據訪問和重用以及健康數據空間製定進一步措施，可能還將製定監管措施。
2020年的挑戰
最後，我想提出三個我希望在2020年解決的問題。首先，我們需要為人工智能和倫理製定具體的衛生創新指導方針。一般準則非常有幫助，但需要根據具體的、高度敏感的情況以及衛生和保健方麵豐富的風險管理經驗加以調整。
其次，我們應該積極參與部門間的見解交流，以便轉移衛生部門的重要經驗，並使衛生部門從智能移動等其他部門的新興和可能更靈活的方法中學習。
第三，健康和護理創新社區，我們應該積極參與塑造人工智能(和數據)監管框架，特別是在治理方麵，即流程、程序和當局。我們應該注意保持靈活性，而不是像我在其他地方(Timmers 2019)所說的那樣把治理永遠扔進石頭。“法”與“規”，即治理與技術，在一定程度上是可以互換的，我們應該積極推動技術創新，保持治理的有效性、效率和精細化。這在一般情況下是正確的，但在有既定衛生當局但仍有新的治理方案餘地的醫療保健領域具有特殊意義。
總之，2020年將是令人興奮的一年，是健康和護理創新社區參與負責任的人工智能進展的巨大機遇和重大責任的一年。
要點
- 人工智能有很大的前景，特別是在醫療保健方麵，但也引發了許多道德問題。
- 衛生和保健在倫理和人工智能方麵都有很大貢獻，因為它們處於這兩個領域的前沿。
- EIT Health最近報告了其歐洲創新社區對人工智能和倫理準則的寶貴見解。這些問題包括實際指導、負責任地管理風險的方法，但也包括道德困境，以及具體涉及保健和護理的進一步澄清的必要性。
- 2020年，衛生和醫療創新應:1)製定具體的人工智能和倫理指導;2)與其他部門在人工智能和倫理方麵相互學習;3)積極參與塑造人工智能和數據監管框架。
