谷歌推出AI工具打擊兒童性侵！識(shí)別效率提升700%

　　兒童性虐待素材（CSAM）的是大型互聯(lián)網(wǎng)公司的頭等大事。但對(duì)于前線審核人員來(lái)說(shuō)，識(shí)別并刪除虐待內(nèi)容是一項(xiàng)艱巨而悲慘的工作。這就是谷歌發(fā)布這款免費(fèi)人工智能軟件的原因。

　　此前，該領(lǐng)域的大多數(shù)技術(shù)解決方案都是通過(guò)對(duì)照以前識(shí)別的虐待材料目錄檢查圖像和視頻來(lái)實(shí)現(xiàn)的（例如：PhotoDNA，由 Microsoft 開(kāi)發(fā)，F(xiàn)acebook 和 Twitter 等公司采用的工具。）。這種被稱為“爬蟲(chóng)”的軟件是打擊共享已知的、先前已被識(shí)別的 CSAM 的有效方法。但它有一個(gè)缺點(diǎn)，就是無(wú)法捕獲尚未被標(biāo)記為非法的材料。因此，人類審核人員必須介入審查內(nèi)容。谷歌的這個(gè) AI 工具與之前已經(jīng)出現(xiàn)的 AI 鑒黃系統(tǒng)有所不同，它可以做到捕獲尚未被標(biāo)記為非法的兒童性虐待材料，因此能夠?qū)崿F(xiàn)更好的識(shí)別效果。

　　而且，利用谷歌在機(jī)器視覺(jué)方面的專業(yè)知識(shí)，這個(gè) AI 工具通過(guò)對(duì)標(biāo)記的圖像和視頻進(jìn)行排序并“優(yōu)先將最有可能的 CSAM 內(nèi)容挑選出來(lái)供審查”。這會(huì)使得審查過(guò)程大大加快。谷歌表示，在一項(xiàng)試驗(yàn)中，人工智能工具幫助審核人員“在相同時(shí)長(zhǎng)內(nèi)處理的 CSAM 內(nèi)容增加了 700%。”

　　如果能夠更快速地識(shí)別新圖像，意味著現(xiàn)在正在待的兒童可能被更快地識(shí)別出來(lái)并起來(lái)。

　　互聯(lián)網(wǎng)觀察基金會(huì)（IWF）副首席執(zhí)行官 Fred Langford 表示，該軟件將幫助審核團(tuán)隊(duì)更有效地部署有限的資源，輔助人類審核員進(jìn)行分類。

　　IWF 是致力于 CSAM 在線的最大組織之一。它位于英國(guó)，包括谷歌在內(nèi)的大型國(guó)際科技公司為其提供資金。IWF 聘請(qǐng)了人類審核團(tuán)隊(duì)來(lái)識(shí)別虐待圖像，在十幾個(gè)國(guó)家運(yùn)營(yíng)用戶舉報(bào)網(wǎng)絡(luò)，并開(kāi)展調(diào)查，與執(zhí)法機(jī)構(gòu)合作打擊共享 CSAM 的網(wǎng)站。

　　Langford 表示，由于現(xiàn)在人們“對(duì)人工智能充滿不切實(shí)際的幻想”，IWF 將徹底測(cè)試谷歌新的人工智能工具，以了解其適應(yīng)工作流程的程度。他補(bǔ)充說(shuō)，此類工具是邁向全自動(dòng)系統(tǒng)的一步，在無(wú)人類干預(yù)的情況下識(shí)別以前未見(jiàn)過(guò)的材料。 “那種分類器就像舞臺(tái)上的圣杯一樣。”

　　但是，他補(bǔ)充說(shuō)，這些工具應(yīng)該只在有“清晰”的場(chǎng)景下使用，以避免虐待材料被遺漏。“幾年前我會(huì)說(shuō)那種分類器出現(xiàn)還需要五六年，”Langford 說(shuō)道，“但現(xiàn)在我認(rèn)為，在某些場(chǎng)景中，我們只需要一至兩年時(shí)間就可以創(chuàng)建完全自動(dòng)化的分類器。”

　　谷歌采取此舉的背景，是這家互聯(lián)網(wǎng)巨頭因未違規(guī)者在網(wǎng)絡(luò)上 CSAM 而面臨越來(lái)越大的爭(zhēng)議。上周，英國(guó)外交大臣杰里米亨特（Jeremy Hunt）發(fā)推，谷歌既然可以為中國(guó)提供經(jīng)審查的搜索引擎，為什么不能刪除網(wǎng)絡(luò)上其他地區(qū)的兒童虐待內(nèi)容。

　　看來(lái)谷歌正在考慮審查其進(jìn)入中國(guó)的內(nèi)容，但卻不會(huì)與英國(guó)、美國(guó)和其他 5 個(gè)國(guó)家合作刪除虐待兒童的內(nèi)容，這似乎不同尋常。過(guò)去他們?cè)鵀樽约旱膬r(jià)值觀而自豪......

　　早些時(shí)候，英國(guó)內(nèi)政大臣薩吉德賈維德（Sajid Javid）發(fā)起了一項(xiàng)新的“行動(dòng)呼吁”，作為推動(dòng)谷歌和 Facebook 等科技公司采取更多措施打擊在線兒童性虐待行為的一部分。在國(guó)家犯罪署（NCA）的最新數(shù)據(jù)顯示英國(guó)有多達(dá) 8 萬(wàn)人可能對(duì)網(wǎng)絡(luò)上公布的兒童構(gòu)成之后，該計(jì)劃得以實(shí)施。

　　由于互聯(lián)網(wǎng)的普及，網(wǎng)絡(luò)，尤其是社交網(wǎng)絡(luò)，成為滋生戀童癖、兒童性虐待等非法內(nèi)容的“溫床”，在這里形成的黑色產(chǎn)業(yè)鏈遠(yuǎn)比大眾想象的更加龐大，被的程度以及相關(guān)調(diào)查報(bào)告的數(shù)量，也比想象中少很多。

　　雖然這個(gè)群體近年來(lái)遭到警方和非營(yíng)利組織的，但卻并沒(méi)有從此消失。比如 2017 年曾被過(guò)戀童癖的微 V 許豪杰，5 月份又被曝重回社交。

　　當(dāng)時(shí)，許在微博上擁有超過(guò) 50 萬(wàn)粉絲，其制作的一系列視頻也曾廣為。其開(kāi)設(shè)的網(wǎng)站、貼吧后被警方查封。

　　在兒童性虐待背后，這條的產(chǎn)業(yè)鏈并沒(méi)有被徹底清除，而驅(qū)動(dòng)力量正是暴利。以下是一些對(duì)戀童癖調(diào)查報(bào)道的標(biāo)題，可以看出這是一個(gè)暴利的產(chǎn)業(yè)：

　　實(shí)際上，兒童性虐待發(fā)生的普遍程度，也可能遠(yuǎn)超你的想象。根據(jù)世界衛(wèi)生組織（WHO, 2016）的調(diào)查，在成年人中，每 5 個(gè)女性和每 13 個(gè)男性中，就有 1 人表示自己曾經(jīng)遭受過(guò)性虐待。其中 34% 的受到性虐待的孩子不滿 12 歲（衛(wèi)生部, 2014）。另外，根據(jù)聯(lián)合國(guó)兒童基金會(huì) 2017 年的一份報(bào)告，全球?yàn)閿?shù)眾多的兒童（甚至包括年齡低至一歲的嬰幼兒）正在遭受，且者往往是他們的養(yǎng)護(hù)人。在全球，約有 1500 萬(wàn) 15 到 19 歲的青春期女童曾被或發(fā)生其他形式的性行為。

　　另外，根據(jù)彭淋等人（2013）對(duì) 2000-2013 年間對(duì)兒童性虐待研究的回顧（N=16682），在中國(guó)，在兒童時(shí)期遭受過(guò)性虐待的人高達(dá) 18.2%（注：在該研究中性虐待指的是無(wú)論兒童是否愿意，任何人在任何地方對(duì)兒童直接或間接做出的性利用或性）。每五個(gè)中國(guó)孩子中，就有一個(gè)遭受過(guò)不同程度的性虐待。很多人可能都認(rèn)為，“性虐待”意味著身體上的，這也使得一些社會(huì)新聞到了。但實(shí)際上，兒童性虐待不僅僅指“猥褻”或“”，一些與孩子年齡不符的、發(fā)生的與性相關(guān)的活動(dòng)，無(wú)論孩子是否愿意，都是對(duì)兒童的性虐待，它有時(shí)并不“需要”施虐者與者之間發(fā)生實(shí)質(zhì)的肢體接觸。

　　谷歌此次推出的用于識(shí)別兒童性虐待 AI 工具，可以幫助人類審核人員更快速高效地識(shí)別相關(guān)內(nèi)容，還可以解決此前 AI 識(shí)別系統(tǒng)普遍缺乏的識(shí)別未標(biāo)記內(nèi)容的問(wèn)題。對(duì)于審核人員來(lái)說(shuō)，此應(yīng)用的作用小編深有體會(huì)，因?yàn)槌鲇谡{(diào)查需要，點(diǎn)開(kāi)的若干網(wǎng)頁(yè)內(nèi)容已經(jīng)引起了小編強(qiáng)烈的心理和生理不適。如果這個(gè) AI 工具的效果真如資料所寫(xiě)，倒不失為一個(gè)功德的應(yīng)用。