澎湃新聞?dòng)浾?張唯
當(dāng)?shù)貢r(shí)間1月7日,美國白宮公開的一份文件提出10條人工智能監(jiān)管原則,這些原則要求避免聯(lián)邦機(jī)構(gòu)對人工智能應(yīng)用的過度干預(yù),強(qiáng)調(diào)監(jiān)管的靈活性。
這份名為《人工智能應(yīng)用規(guī)范指南(Guidance for Regulation of Artificial Intelligence Applications)》的文件強(qiáng)調(diào)“鼓勵(lì)人工智能的創(chuàng)新和發(fā)展”和“減少部署和使用人工智能的障礙”。
它指出,“Al的部署有助于提高安全、公平、福利、透明度和其他社會(huì)目標(biāo),美國保持全球AI領(lǐng)導(dǎo)地位對維護(hù)經(jīng)濟(jì)和國家安全至關(guān)重要……聯(lián)邦機(jī)構(gòu)必須避免阻礙創(chuàng)新和增長的、不必要的監(jiān)管或非監(jiān)管行動(dòng)”?!氨仨毧紤]聯(lián)邦管制對州和地方政府現(xiàn)有或潛在行動(dòng)的影響。”
該文件明確了10條“人工智能應(yīng)用監(jiān)管原則”(Principles for the Stewardship of AI Applications)。
10條原則延續(xù)了2019年2月特朗普簽署的“維護(hù)美國人工智能領(lǐng)導(dǎo)地位”行政命令中的目標(biāo)和原則,基本概括當(dāng)前人工智能應(yīng)用部署中的主要重大議題。
這些議題包括公眾信任、公眾參與、科學(xué)完整性與信息質(zhì)量、風(fēng)險(xiǎn)評估與管理、收益與成本、靈活性、 公平和非歧視、公開與透明、安全與保障和機(jī)構(gòu)間協(xié)調(diào)。
1.公眾對AI的信任:政府對AI的監(jiān)管和非監(jiān)管方法須促進(jìn)可靠和可信賴的AI應(yīng)用。對隱私和其他風(fēng)險(xiǎn)的適當(dāng)監(jiān)管或非監(jiān)管必須取決于風(fēng)險(xiǎn)的性質(zhì)和適當(dāng)?shù)木徑獯胧?/p>
2.公眾參與:機(jī)構(gòu)應(yīng)在可行且合法的范圍內(nèi),為公眾提供充足的信息和機(jī)會(huì)去參與規(guī)則制定的所有階段。
3.科學(xué)完整性與信息質(zhì)量:根據(jù)科學(xué)完整性原則,各機(jī)構(gòu)應(yīng)以既為決策提供信息又能促進(jìn)公眾對Al信任的方式制定Al監(jiān)管方法。
4.風(fēng)險(xiǎn)評估與管理:應(yīng)采用基于風(fēng)險(xiǎn)的方法來確定哪些風(fēng)險(xiǎn)是可接受的,哪些則可能造成不可接受的損害,或者損害的預(yù)期成本大于預(yù)期收益。
5.收益與成本:在符合法律規(guī)定的情況下,各機(jī)構(gòu)考慮與人工智能應(yīng)用開發(fā)和部署有關(guān)的法規(guī)之前,應(yīng)仔細(xì)考慮全面的社會(huì)成本、效益和分配效果。
6.靈活性:在大多數(shù)情況下,試圖規(guī)定死板的人工智能應(yīng)用規(guī)則是不切實(shí)際且無效的,因?yàn)槿斯ぶ悄軐⒁灶A(yù)期的速度發(fā)展,機(jī)構(gòu)需要對新的信息和證據(jù)作出反應(yīng)。為了推進(jìn)美國的創(chuàng)新,各機(jī)構(gòu)應(yīng)牢記人工智能的國際應(yīng)用,確保美國公司不受美國監(jiān)管制度的不利影響。
7.公平和非歧視:在某些情況下,AI應(yīng)用可能會(huì)引入現(xiàn)實(shí)世界的偏見,產(chǎn)生歧視性的結(jié)果或決定,這會(huì)損害公眾對人工智能的信任和信心??紤]與人工智能應(yīng)用相關(guān)的法規(guī)或非法規(guī)方法時(shí),各機(jī)構(gòu)應(yīng)依法考慮人工智能應(yīng)用結(jié)果和決定的公平與非歧視問題。
8.公開與透明:適當(dāng)?shù)墓_和透明要視具體情況而定的,取決于對潛在危害的評估、危害的程度、技術(shù)現(xiàn)狀以及人工智能應(yīng)用的潛在好處。
9.安全與保障:各機(jī)構(gòu)應(yīng)特別注意現(xiàn)有的控制措施,以確保人工智能系統(tǒng)處理、存儲(chǔ)和傳輸信息時(shí)的機(jī)密性、完整性和可用性。
10.機(jī)構(gòu)間協(xié)調(diào):各機(jī)構(gòu)應(yīng)相互協(xié)調(diào),分享經(jīng)驗(yàn),確保人工智能相關(guān)政策的一致性和可預(yù)見性,以促進(jìn)美國人工智能的創(chuàng)新和增長,同時(shí)適當(dāng)保護(hù)隱私,公民自由和美國價(jià)值觀,并在適當(dāng)時(shí)允許采取針對具體部門和應(yīng)用的方法。
文件還引述2019年2月行政命令,提到應(yīng)考慮在減少Al技術(shù)使用障礙以促進(jìn)創(chuàng)新的同時(shí)保護(hù)公民自由、隱私和國家安全。
據(jù)美國連線(WIRED)雜志網(wǎng)站消息,公眾可在90天內(nèi)提交關(guān)于上述原則的反饋意見,之后聯(lián)邦機(jī)構(gòu)將有180天的時(shí)間來研究如何實(shí)施這些原則。