分享2014年，史蒂芬·霍金曾警告說，“人工智能的發展可能意味著人類的終結”。1這的確是一個大膽的說法，但如果我們專注於“完全”這個詞，我們就會明白，如果設計不當，某種程度的自治可能難以控製，並可能對基本權利造成極大損害。
去年4月，歐盟委員會公布了新的人工智能監管框架(AIRF)，該框架將在法律上塑造該行業所有參與者在其活動中整合人工智能的方式。在增加人工智能實施、投資和創新的同時，主要優先事項是人民和企業的安全和基本權利。
Margrethe Vestager(數字時代歐洲執行副總裁，本專欄經常出現)警告我們，我們不應該害怕人工智能，而是要建立一種對我們所有人都可信、安全和積極的技術。2
眾所周知，人工智能是複雜的、不透明的、不可預測的、自主的，而且是一個黑盒子，一直在成為HAL9000的邊緣。
AIRF選擇了一個籠統的定義，盡可能客觀(受經合組織原則啟發)，主要基於“軟件”的概念，該概念使用技術開發，“為給定的一組人類定義的目標，產生產出，如內容、預測、建議或影響與之相互作用的環境的決定”(第2條)。3）.3.
未來的監管將為負責任的人工智能鋪平道路，使技術變得無縫、可靠，最重要的是，為人所知。其中一個關鍵因素是對用戶的教育。這意味著讓所有人都能獲得人工智能的信息。
風險是衡量標準
擬議的監管正在考慮對風險披露水平進行監管的必要性。這種監管是風險驅動的，而不是對所有源自人工智能的行為進行完全立法。該規定創建了三類:不可接受風險、高風險和有限和最小風險。4
“不可接受”包括潛意識的、操縱的、剝削的和有害的係統;應用於公共空間的實時遠程生物識別係統和基於可信度評價的社會評分基於社會互動的社會。
“高風險”包括對用戶進行信用評級分析的係統、招聘工具、員工管理和生物特征識別。
“有限和最小風險”包括有特定透明度義務的係統，它們要麼通知用戶與機器的交互，要麼不構成風險(如垃圾郵件過濾器)。
合理地，優先事項是規定對高度敏感的事項進行管製。風險越高，監管越嚴格。一般義務規定，大多數人工智能不被視為高風險。隻規定了透明度義務(第2條)。第52條)和自願人工智能行為守則為具體的透明度要求而製定(第52條)。69)。
為了降低或最小化風險，係統將必須警告用戶與人工智能的交互，以及情感識別或生物識別的收集和處理，以及使用人工智能描繪人類或類人圖像(深度假技術)。
該法規草案建議高風險係統進行“一致性評估”(算法影響評估，類似於當前數據保護行業的隱私影響評估)，評估(在任何部署之前)對用戶和生態係統的潛在後果。係統還需要可解釋，並接受人工監督，公司將必須實施健全的網絡風險管理合規程序。
另一個有趣的特點是擬議立法的跨司法管轄範圍，這一舉措幾乎模仿了當前歐盟的《通用數據保護條例》(GDPR)。無論提供者位於何處，任何在歐盟內部進行交互的AI係統都將受製於這些規則。
最後，可能的製裁和執行將在3000萬歐元左右確立，或全球收入的6%，比GDPR高一步，但采用類似的製裁標準。
我們沒有進入未知領域
自2018年實施GDPR以來，企業開始將合規與業績掛鉤。因此，未來的AI法規將要求公司——或早或晚——開始整合這些原則，作為在結構中整合和促進AI合規文化的一種方式。法國數據保護機構(CNIL)已經指出了與GDPR原則合理(且明顯)銜接的重要性，以及強有力的數據綜合治理。5
一份人工智能清單可能會成為(至少)了解係統中當前人工智能存在情況的首選措施，以及建立一個明確的風險映射策略，並將其與所有與數據保護和網絡安全相關的合規機製整合在一起。
我們歡迎這一未來的監管，我們也明白，增加人工智能的多功能性的最佳方式是允許一項從基礎上適當伴隨企業、用戶和政府的監管，以創建一個通用和負責任的人工智能。
