應(yīng)用風(fēng)險(xiǎn)加劇 將AI關(guān)進(jìn)籠子還需政策發(fā)力

　　朱茵變楊冪的換臉視頻猶在眼前，近日“換臉”APP “ZAO”又因其用戶隱私協(xié)議不規(guī)范、存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等網(wǎng)絡(luò)數(shù)據(jù)安全問(wèn)題被相關(guān)部門約談。

　　事實(shí)上，近年來(lái)，AI正在以一種超乎想象的速度迅猛發(fā)展，其背后隱藏的諸多問(wèn)題也逐漸凸顯。日前Facebook再次因數(shù)據(jù)安全問(wèn)題受到關(guān)注，據(jù)外媒報(bào)道，一個(gè)存儲(chǔ)了數(shù)億Facebook用戶電話號(hào)碼的在線數(shù)據(jù)庫(kù)泄露。面對(duì)AI治理難題，目前各國(guó)正加緊制定相關(guān)政策法規(guī)。

　　大規(guī)模應(yīng)用裹挾著諸多風(fēng)險(xiǎn)

　　近年來(lái)，在AI產(chǎn)業(yè)的博弈中，各國(guó)都在全力爭(zhēng)取發(fā)展先機(jī)。

　　“無(wú)論從企業(yè)數(shù)量上還是投融資規(guī)模上看，美國(guó)和中國(guó)無(wú)疑是人工智能領(lǐng)域的重量級(jí)玩家。”國(guó)務(wù)院發(fā)展研究中心國(guó)際技術(shù)經(jīng)濟(jì)研究所研究一室副主任宮學(xué)源在《人工智能全球格局：未來(lái)趨勢(shì)與中國(guó)位勢(shì)》一書(shū)中提到，兩國(guó)的科技巨頭通過(guò)重新制定戰(zhàn)略、大規(guī)模收并購(gòu)等手段，已經(jīng)在全球人工智能產(chǎn)業(yè)領(lǐng)域獲得了極高的話語(yǔ)權(quán)。但從人均AI初創(chuàng)企業(yè)數(shù)量和人均投融資水平上看，英國(guó)、法國(guó)、德國(guó)和以色列等國(guó)家完全不落下風(fēng)。日韓等國(guó)也正紛紛制定國(guó)家級(jí)戰(zhàn)略，以期實(shí)現(xiàn)人工智能技術(shù)的反超和部分產(chǎn)業(yè)的引領(lǐng)。

　　“機(jī)遇往往與挑戰(zhàn)并存，AI大規(guī)模應(yīng)用必將裹挾著諸多風(fēng)險(xiǎn)，如木馬、病毒、僵尸網(wǎng)絡(luò)等技術(shù)要素風(fēng)險(xiǎn)，電信網(wǎng)絡(luò)詐騙、群體（算法）歧視等組織管理風(fēng)險(xiǎn)，色情信息、暴恐信息、虛假信息等在線內(nèi)容風(fēng)險(xiǎn)。”北京師范大學(xué)網(wǎng)絡(luò)法治國(guó)際中心執(zhí)行主任吳沈括表示，因此，在給與AI足夠的養(yǎng)分令其成長(zhǎng)的同時(shí)，各國(guó)也都在汲汲探尋AI治理的方案。

　　“民間”倡議百花齊放

　　2018年，第40屆數(shù)據(jù)保護(hù)與隱私專員國(guó)際大會(huì)上發(fā)布的《人工智能倫理與數(shù)據(jù)保護(hù)宣言》認(rèn)為，應(yīng)根據(jù)公平原則，在基本人權(quán)層面設(shè)計(jì)、開(kāi)發(fā)和使用人工智能和機(jī)器學(xué)習(xí)技術(shù)；持續(xù)關(guān)注AI系統(tǒng)潛在影響和風(fēng)險(xiǎn)，并確立問(wèn)責(zé)機(jī)制，實(shí)現(xiàn)“可控”；應(yīng)改進(jìn)人工智能系統(tǒng)的透明度和可理解度，以實(shí)現(xiàn)有效施行；作為整體“倫理設(shè)計(jì)”方法的一部分，應(yīng)通過(guò)默認(rèn)應(yīng)用隱私原則和設(shè)計(jì)隱私來(lái)對(duì)人工智能系統(tǒng)進(jìn)行負(fù)責(zé)任地設(shè)計(jì)和開(kāi)發(fā)；應(yīng)當(dāng)減少和減輕因使用人工智能數(shù)據(jù)而可能導(dǎo)致的非法偏見(jiàn)或歧視。

　　2019年，歐洲委員會(huì)發(fā)布《人工智能與數(shù)據(jù)保護(hù)指南》，也首先強(qiáng)調(diào)了人權(quán)和人的基本自由為先，特別是在個(gè)人數(shù)據(jù)保護(hù)方面。用于個(gè)人數(shù)據(jù)處理的人工智能研發(fā)應(yīng)基于合法性、公平性、目的特定性、數(shù)據(jù)處理比例性、設(shè)計(jì)隱私與默認(rèn)隱私、責(zé)任與合規(guī)展示（問(wèn)責(zé)）、透明度、數(shù)據(jù)安全和風(fēng)險(xiǎn)管理等原則。

　　與上述西方國(guó)家主導(dǎo)的宣言、指南相比，AI治理的中國(guó)路則出現(xiàn)了不一樣的風(fēng)景。法律層面，與大部分國(guó)家一樣，《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》《電信法》等相關(guān)法律正在擬定中；社群倡議方面，2019年6月，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，明確指出了“AI治理八原則”：和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理。清華大學(xué)人工智能與安全項(xiàng)目小組也提出“AI治理六原則”，即福祉、安全、共享、和平、法治、合作。

　　2019年5月，北京智源人工智能研究院聯(lián)合北京大學(xué)、清華大學(xué)、中科院等單位，共同發(fā)布《人工智能北京共識(shí)》，提出對(duì)人工智能部分替代人類工作保持包容和謹(jǐn)慎態(tài)度，鼓勵(lì)探索更能發(fā)揮人類優(yōu)勢(shì)和特點(diǎn)的新工作，廣泛開(kāi)展國(guó)際合作，共享人工智能治理經(jīng)驗(yàn)。人工智能的準(zhǔn)則與治理措施應(yīng)做到適應(yīng)和適度，并開(kāi)展長(zhǎng)遠(yuǎn)戰(zhàn)略設(shè)計(jì)，以確保未來(lái)人工智能始終保持向?qū)ι鐣?huì)有益的方向發(fā)展。

　　AI治理中西方各有不同

　　“從中西方國(guó)家社群團(tuán)體的倡議指引中可以看出，雙方治理AI在對(duì)人類共同福祉的追求、對(duì)公平公正價(jià)值的堅(jiān)持、對(duì)系統(tǒng)管理風(fēng)險(xiǎn)的重視、對(duì)開(kāi)放共享共治的倡導(dǎo)方面都持有相似的觀點(diǎn)。”吳沈括指出，但在很多地方也體現(xiàn)出了差異。

　　相較于西方國(guó)家，我國(guó)在遵循相同治理原則的基礎(chǔ)上更希望能夠?qū)崿F(xiàn)人機(jī)和諧，如在“AI治理八原則”中的首條原則即為和諧友好，符合人類的價(jià)值觀和倫理道德，促進(jìn)人機(jī)和諧，服務(wù)人類文明進(jìn)步。

　　未來(lái)，東西方的融合交匯必將是AI治理的大趨勢(shì)，動(dòng)態(tài)持續(xù)的多邊對(duì)話、以人為中心的頂層設(shè)計(jì)建構(gòu)、著眼于應(yīng)用場(chǎng)景的差別規(guī)范設(shè)計(jì)以及平衡安全發(fā)展的利益平衡規(guī)則都將成為東西方存異求同的立足點(diǎn)。”吳沈括說(shuō)。（于紫月）