近日，滴滴性侵犯事件鬧得沸沸揚(yáng)揚(yáng)。一直以來，性侵犯事件頻發(fā)，已經(jīng)成為不容忽視的社會(huì)問題。作案者不只是對(duì)女性下手，更有甚者，對(duì)兒童下手。
據(jù)報(bào)道，本周一，谷歌發(fā)布了一種免費(fèi)的AI(人工智能)工具，其主要用途是幫助公司和組織識(shí)別互聯(lián)網(wǎng)上的性侵犯(向非政府組織和行業(yè)伙伴免費(fèi)提供這種技術(shù))、裸露圖片，特別是跟兒童有關(guān)的，從而導(dǎo)致相應(yīng)犯罪率的下降。
谷歌宣布推出Content Safety API(內(nèi)容安全應(yīng)用程序界面)，這是個(gè)開發(fā)者工具包，能利用深層神經(jīng)網(wǎng)絡(luò)來處理圖片以降低其對(duì)互聯(lián)網(wǎng)用戶的曝光度。技術(shù)免費(fèi)的同時(shí)，谷歌也強(qiáng)調(diào)，這種AI人工智能技術(shù)能幫助審查人員識(shí)別出與無此技術(shù)相比多700%的黃色內(nèi)容。
對(duì)于大型互聯(lián)網(wǎng)企業(yè)來說，及時(shí)阻止兒童性虐待內(nèi)容(CSAM)的傳播是屬于第一優(yōu)先級(jí)的任務(wù)。但對(duì)于一線工作人員來說，這項(xiàng)工作是異常艱巨而困難的，必須要靠人類來識(shí)別并刪除這些不良內(nèi)容。
過去的類似工具往往只能阻止已經(jīng)標(biāo)記的不良內(nèi)容的傳播，而谷歌本次推出的AI軟件利用谷歌在機(jī)器視覺方面的專業(yè)知識(shí)，通過對(duì)標(biāo)記的圖像和視頻進(jìn)行排序并“優(yōu)先考慮最可能的CSAM內(nèi)容以供審查”來協(xié)助人類。這樣，工作人員將能夠提高審查的效率。
互聯(lián)網(wǎng)觀察基金會(huì)(IWF)副首席執(zhí)行官Fred Langford在接受采訪時(shí)表示，“該軟件將有助于我們這樣的團(tuán)隊(duì)更有效地調(diào)配有限的資源。目前，我們只使用純?nèi)肆磉M(jìn)行內(nèi)容審核，然后判斷能不能通過。這款A(yù)I工具將有助于我們對(duì)審核內(nèi)容進(jìn)行分類?！?/p>
“迅速識(shí)別新圖片意味著，那些遭到性侵犯的兒童被辨識(shí)出來的可能性變得大多了，有利于保護(hù)他們免受進(jìn)一步的侵犯?！惫雀韫こ特?fù)責(zé)人Nikola Todorovic和產(chǎn)品經(jīng)理Abhi Chaudhuri發(fā)布官方博文稱。“我們通過Content Safety API工具包向非政府組織和行業(yè)伙伴免費(fèi)提供這種技術(shù)，這個(gè)工具包旨在提高內(nèi)容審查的能力以降低其曝光度?！?/p>
英國互聯(lián)網(wǎng)觀察基金會(huì)對(duì)谷歌開發(fā)這種工具表示贊賞?！拔覀儭绕涫俏覀兊膶＜曳治鰩煂?duì)這樣一種人工智能工具的開發(fā)感到激動(dòng)，這可以幫助我們的人類專家以更大的規(guī)模進(jìn)行內(nèi)容審查，跟上那些罪犯的腳步，找到那些此前并未被標(biāo)記為非法內(nèi)容的圖片?！?/p>
互聯(lián)網(wǎng)觀察基金會(huì)首席執(zhí)行官蘇西·哈格里夫斯(Susie Hargreaves)發(fā)表聲明稱?！巴ㄟ^共享這種新技術(shù)，圖片識(shí)別的速度可加快，這就能讓互聯(lián)網(wǎng)變成一個(gè)更加安全的地方?！?/p>
