內(nèi)容簡述： 本條例草案中"人工智能系統(tǒng)"（AI系統(tǒng)）的定義是使用附件一所列的一種或多種技術(shù)和方法開發(fā)的軟件，并且能夠針對(duì)人類定義的一組特定目標(biāo)產(chǎn)生影響其互動(dòng)環(huán)境的內(nèi)容、預(yù)測(cè)、建議或決定等產(chǎn)出。
本條例草案提出了一些規(guī)定，管理人工智能系統(tǒng)的開發(fā)、銷售和在歐洲聯(lián)盟市場(chǎng)上的投放。考慮到人工智能系統(tǒng)帶來的風(fēng)險(xiǎn)和挑戰(zhàn)，這些規(guī)則僅限于保護(hù)人員的安全和基本權(quán)利的最低必要要求，而不會(huì)過度限制或阻礙技術(shù)開發(fā)或以其他方式不成比例地增加將人工智能解決方案投放市場(chǎng)的成本。本條例草案依人工智能系統(tǒng)的潛在風(fēng)險(xiǎn)程度而有所不同。
歐盟將禁止認(rèn)定為對(duì)人們的安全、生計(jì)和權(quán)利構(gòu)成明顯威脅的人工智能系統(tǒng)。這包括操縱人類行為以規(guī)避某些用戶自由意志的人工智能系統(tǒng)或應(yīng)用（例如，使用聲音輔助的玩具鼓勵(lì)未成年人危險(xiǎn)行為），以及允許政府“社會(huì)評(píng)分”的系統(tǒng)。這些禁令涵蓋了一些危險(xiǎn)系數(shù)高的做法，如通過潛意識(shí)技術(shù)來操縱他人，或利用兒童或殘疾人等特定弱勢(shì)群體的劣勢(shì)，扭曲其行為，從而可能對(duì)他們或其他人造成心理或身體傷害。此外，原則上禁止為執(zhí)法目的在公共無障礙空間"實(shí)時(shí)"使用遠(yuǎn)程生物識(shí)別系統(tǒng)。嚴(yán)格界定和規(guī)范特殊情況，例如，為搜尋失蹤兒童、防止具體和迫在眉睫的恐怖主義威脅或偵查、定位、識(shí)別或起訴嚴(yán)重刑事犯罪的肇事者或嫌疑人而絕對(duì)必要的例外。在允許的情況下，此類使用須經(jīng)司法機(jī)構(gòu)或其他獨(dú)立機(jī)構(gòu)授權(quán)，并在時(shí)間、地理范圍和檢索數(shù)據(jù)庫方面有適當(dāng)限制。
高風(fēng)險(xiǎn)人工智能系統(tǒng)在進(jìn)入歐盟市場(chǎng)之前，必須嚴(yán)格履行義務(wù)。
確定為高風(fēng)險(xiǎn)的人工智能系統(tǒng)包括本建議書附件中列出的人工智能技術(shù)，用于以下廣泛領(lǐng)域：
?
實(shí)時(shí)和事后遠(yuǎn)程生物識(shí)別系統(tǒng)；
?
可能危及人民生命和健康的關(guān)鍵基礎(chǔ)設(shè)施（如交通）；
?
教育或職業(yè)培訓(xùn)，這可能決定一個(gè)人獲得教育和專業(yè)課程的機(jī)會(huì)（例如，考試分?jǐn)?shù)）；
?
根據(jù)歐盟部門產(chǎn)品安全立法，受第三方合格評(píng)定的受監(jiān)管產(chǎn)品的安全組件（例如，機(jī)器人輔助手術(shù)中的人工智能應(yīng)用）；
?
就業(yè)、工人管理和自營職業(yè)（例如，招聘程序的簡歷分類軟件）；
?
基本的私人和公共服務(wù)（例如，信用評(píng)分剝奪了人們獲得貸款的機(jī)會(huì)）；
?
可能干擾人民基本權(quán)利的執(zhí)法（例如，評(píng)估證據(jù)的可靠性）；
?
移民、庇護(hù)和邊境管制管理（例如，核實(shí)旅行證件的真實(shí)性）；
?
司法和民主進(jìn)程（例如，將法律應(yīng)用于一系列具體事實(shí)）。
高風(fēng)險(xiǎn)人工智能系統(tǒng)的相關(guān)要求：
?
充分的風(fēng)險(xiǎn)評(píng)估和緩解系統(tǒng)；
?
為系統(tǒng)提供高質(zhì)量的數(shù)據(jù)集，以最大限度地降低風(fēng)險(xiǎn)和歧視性結(jié)果；
?
記錄活動(dòng)以確保結(jié)果的可追溯性；
?
提供有關(guān)該系統(tǒng)及其目的的所有必要信息的詳細(xì)文件，供當(dāng)局評(píng)估其遵守情況；
?
向用戶提供清晰、充分的信息；
?
采取適當(dāng)?shù)娜肆ΡO(jiān)督措施，將風(fēng)險(xiǎn)降至最低；
?
高度的穩(wěn)健性、安全性和準(zhǔn)確性。
此類高風(fēng)險(xiǎn)人工智能系統(tǒng)的公共和私人供應(yīng)商必須遵循合格評(píng)估程序，以證明這些系統(tǒng)符合上述要求，然后才能將這些系統(tǒng)投入歐盟市場(chǎng)或在歐盟使用。為了促進(jìn)這一點(diǎn)，本條例草案包括了與歐洲標(biāo)準(zhǔn)化組織（CEN/CENELEC和ETSI）將根據(jù)歐盟委員會(huì)的授權(quán)采用的協(xié)調(diào)技術(shù)標(biāo)準(zhǔn)的未來協(xié)調(diào)和起草有關(guān)的規(guī)定。同時(shí)規(guī)定了對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的提供者和用戶須承擔(dān)可預(yù)測(cè)的、相應(yīng)的、明確的義務(wù)，以確保在整個(gè)人工智能系統(tǒng)的生命周期內(nèi)，保護(hù)基本權(quán)利現(xiàn)有法律的尊嚴(yán)。
具有特定透明度義務(wù)的人工智能系統(tǒng)：當(dāng)使用聊天機(jī)器人等人工智能系統(tǒng)時(shí)，人們應(yīng)該意識(shí)到他們正在與機(jī)器交互，這樣他們就可以做出明智決定，選擇繼續(xù)或后退。如果人們接觸到情緒識(shí)別和生物特征分類系統(tǒng)以及假貨，他們也應(yīng)該知曉。
最低風(fēng)險(xiǎn)：在遵守現(xiàn)行立法的前提下，該提案允許自由使用所有其他未被禁止、被定性為"高風(fēng)險(xiǎn)"或需要特定透明度義務(wù)的人工智能應(yīng)用程序。絕大多數(shù)人工智能系統(tǒng)都屬于這一類。條例草案沒有在此進(jìn)行干預(yù)，因?yàn)檫@些人工智能系統(tǒng)僅對(duì)人民的權(quán)利或安全構(gòu)成最小風(fēng)險(xiǎn)或沒有風(fēng)險(xiǎn)，但非高風(fēng)險(xiǎn)人工智能系統(tǒng)的提供者可以自愿遵守自愿行為守則，以證明其應(yīng)用的可靠性。
在治理方面，歐盟委員會(huì)建議由國家主管市場(chǎng)監(jiān)管機(jī)構(gòu)監(jiān)督新規(guī)則，而歐洲人工智能委員會(huì)得建立，將促進(jìn)其實(shí)施，并推動(dòng)人工智能標(biāo)準(zhǔn)的制定。此外，還建議采取具體措施來支持小規(guī)模供應(yīng)商和用戶以及監(jiān)管沙盒，以促進(jìn)負(fù)責(zé)任的創(chuàng)新。
