內(nèi)容簡述： 本條例草案中"人工智能系統(tǒng)"（AI系統(tǒng)）的定義是使用附件一所列的一種或多種技術(shù)和方法開發(fā)的軟件,，并且能夠針對人類定義的一組特定目標產(chǎn)生影響其互動環(huán)境的內(nèi)容、預(yù)測,、建議或決定等產(chǎn)出,。
本條例草案提出了一些規(guī)定，管理人工智能系統(tǒng)的開發(fā),、銷售和在歐洲聯(lián)盟市場上的投放,。考慮到人工智能系統(tǒng)帶來的風(fēng)險和挑戰(zhàn),，這些規(guī)則僅限于保護人員的安全和基本權(quán)利的最低必要要求,，而不會過度限制或阻礙技術(shù)開發(fā)或以其他方式不成比例地增加將人工智能解決方案投放市場的成本。本條例草案依人工智能系統(tǒng)的潛在風(fēng)險程度而有所不同,。
歐盟將禁止認定為對人們的安全,、生計和權(quán)利構(gòu)成明顯威脅的人工智能系統(tǒng)。這包括操縱人類行為以規(guī)避某些用戶自由意志的人工智能系統(tǒng)或應(yīng)用（例如,，使用聲音輔助的玩具鼓勵未成年人危險行為）,，以及允許政府“社會評分”的系統(tǒng)。這些禁令涵蓋了一些危險系數(shù)高的做法,，如通過潛意識技術(shù)來操縱他人,，或利用兒童或殘疾人等特定弱勢群體的劣勢，扭曲其行為,，從而可能對他們或其他人造成心理或身體傷害。此外,，原則上禁止為執(zhí)法目的在公共無障礙空間"實時"使用遠程生物識別系統(tǒng),。嚴格界定和規(guī)范特殊情況，例如,，為搜尋失蹤兒童,、防止具體和迫在眉睫的恐怖主義威脅或偵查、定位,、識別或起訴嚴重刑事犯罪的肇事者或嫌疑人而絕對必要的例外,。在允許的情況下，此類使用須經(jīng)司法機構(gòu)或其他獨立機構(gòu)授權(quán),，并在時間,、地理范圍和檢索數(shù)據(jù)庫方面有適當(dāng)限制。
高風(fēng)險人工智能系統(tǒng)在進入歐盟市場之前,，必須嚴格履行義務(wù),。
確定為高風(fēng)險的人工智能系統(tǒng)包括本建議書附件中列出的人工智能技術(shù),，用于以下廣泛領(lǐng)域：
?
實時和事后遠程生物識別系統(tǒng)；
?
可能危及人民生命和健康的關(guān)鍵基礎(chǔ)設(shè)施（如交通）,；
?
教育或職業(yè)培訓(xùn),，這可能決定一個人獲得教育和專業(yè)課程的機會（例如，考試分數(shù)）,；
?
根據(jù)歐盟部門產(chǎn)品安全立法,，受第三方合格評定的受監(jiān)管產(chǎn)品的安全組件（例如，機器人輔助手術(shù)中的人工智能應(yīng)用）,；
?
就業(yè),、工人管理和自營職業(yè)（例如，招聘程序的簡歷分類軟件）,；
?
基本的私人和公共服務(wù)（例如,，信用評分剝奪了人們獲得貸款的機會）；
?
可能干擾人民基本權(quán)利的執(zhí)法（例如,，評估證據(jù)的可靠性）,；
?
移民、庇護和邊境管制管理（例如,，核實旅行證件的真實性）,；
?
司法和民主進程（例如，將法律應(yīng)用于一系列具體事實）,。
高風(fēng)險人工智能系統(tǒng)的相關(guān)要求：
?
充分的風(fēng)險評估和緩解系統(tǒng),；
?
為系統(tǒng)提供高質(zhì)量的數(shù)據(jù)集，以最大限度地降低風(fēng)險和歧視性結(jié)果,；
?
記錄活動以確保結(jié)果的可追溯性,；
?
提供有關(guān)該系統(tǒng)及其目的的所有必要信息的詳細文件，供當(dāng)局評估其遵守情況,；
?
向用戶提供清晰,、充分的信息；
?
采取適當(dāng)?shù)娜肆ΡO(jiān)督措施,，將風(fēng)險降至最低,；
?
高度的穩(wěn)健性、安全性和準確性,。
此類高風(fēng)險人工智能系統(tǒng)的公共和私人供應(yīng)商必須遵循合格評估程序,，以證明這些系統(tǒng)符合上述要求，然后才能將這些系統(tǒng)投入歐盟市場或在歐盟使用,。為了促進這一點,，本條例草案包括了與歐洲標準化組織（CEN/CENELEC和ETSI）將根據(jù)歐盟委員會的授權(quán)采用的協(xié)調(diào)技術(shù)標準的未來協(xié)調(diào)和起草有關(guān)的規(guī)定。同時規(guī)定了對高風(fēng)險人工智能系統(tǒng)的提供者和用戶須承擔(dān)可預(yù)測的,、相應(yīng)的,、明確的義務(wù),，以確保在整個人工智能系統(tǒng)的生命周期內(nèi)，保護基本權(quán)利現(xiàn)有法律的尊嚴,。
具有特定透明度義務(wù)的人工智能系統(tǒng)：當(dāng)使用聊天機器人等人工智能系統(tǒng)時,，人們應(yīng)該意識到他們正在與機器交互，這樣他們就可以做出明智決定,，選擇繼續(xù)或后退,。如果人們接觸到情緒識別和生物特征分類系統(tǒng)以及假貨，他們也應(yīng)該知曉,。
最低風(fēng)險：在遵守現(xiàn)行立法的前提下,，該提案允許自由使用所有其他未被禁止、被定性為"高風(fēng)險"或需要特定透明度義務(wù)的人工智能應(yīng)用程序,。絕大多數(shù)人工智能系統(tǒng)都屬于這一類,。條例草案沒有在此進行干預(yù)，因為這些人工智能系統(tǒng)僅對人民的權(quán)利或安全構(gòu)成最小風(fēng)險或沒有風(fēng)險,，但非高風(fēng)險人工智能系統(tǒng)的提供者可以自愿遵守自愿行為守則,，以證明其應(yīng)用的可靠性。
在治理方面,，歐盟委員會建議由國家主管市場監(jiān)管機構(gòu)監(jiān)督新規(guī)則,，而歐洲人工智能委員會得建立，將促進其實施,，并推動人工智能標準的制定,。此外，還建議采取具體措施來支持小規(guī)模供應(yīng)商和用戶以及監(jiān)管沙盒,，以促進負責(zé)任的創(chuàng)新,。
