9月1日消息,據(jù)CNBC報(bào)道,首先,我們需要澄清下:美國(guó)總統(tǒng)唐納德·特朗普(Donald Trump)本周針對(duì)谷歌的指控是毫無(wú)根據(jù)的。特朗普宣稱,這家搜索引擎出于政治原因,在其搜索結(jié)果中更多顯示反對(duì)特朗普的新聞內(nèi)容。此外,特朗普還聲稱,谷歌在其主頁(yè)上推薦了前總統(tǒng)巴拉克·奧巴馬(Barack Obama)的國(guó)情咨文演講,而沒(méi)有推薦他的演講。這也是錯(cuò)誤的,因?yàn)榻貓D顯示谷歌確實(shí)鏈接到了特朗普今年的演講。
但這就是本文為“谷歌辯護(hù)”得出的結(jié)論。因?yàn)椋还芴乩势帐欠裰?,他的錯(cuò)誤指控引發(fā)了對(duì)谷歌、其偏見(jiàn)及其影響力的一系列長(zhǎng)期擔(dān)憂。順著特朗普的指控?cái)U(kuò)展開(kāi)來(lái),你會(huì)發(fā)現(xiàn)一系列令人不快的事實(shí),它們對(duì)谷歌和社會(huì)來(lái)說(shuō)都是不舒服的,因?yàn)樗鼈兺伙@了我們是如何受制于這家公司的,以及我們對(duì)它許多影響全球的隱形方式制衡如此至少。
特別值得一提的是,大量研究表明,谷歌還有另一種偏見(jiàn)值得擔(dān)憂。特朗普所謂的“赤裸裸的黨派偏見(jiàn)”不太可能發(fā)生,但它有個(gè)隱藏潛在問(wèn)題、普遍而經(jīng)常未被意識(shí)到的偏見(jiàn),比如搜索“黑人女孩”谷歌會(huì)導(dǎo)向**網(wǎng)頁(yè)鏈接,輸入短語(yǔ)“黑人女性為何如此”總會(huì)伴隨著“憤怒”和“喊叫”的場(chǎng)景,或者搜索“大猩猩”會(huì)顯示黑人照片等。
在《壓迫算法:搜索引擎如何強(qiáng)化種族主義》(Algorithms of Oppression: How Search Engines Reinforce Racism)這本書(shū)中,舉了許多上述類似例證。雖然谷歌已經(jīng)為之道歉并修復(fù)了這些例子,但這些場(chǎng)景的變體不斷涌現(xiàn)。該書(shū)作者、南加州大學(xué)安嫩伯格交流學(xué)院教授薩菲亞·
諾布爾博士(Safiya U. Noble)認(rèn)為,許多人對(duì)谷歌有錯(cuò)誤的認(rèn)識(shí)。我們?cè)J(rèn)為搜索引擎是個(gè)中立的甲骨文,就好像該公司以某種方式整合電腦和數(shù)學(xué),客觀地從垃圾中篩選出真相。
但谷歌實(shí)際上也是由有偏好、有自己觀點(diǎn)以及有盲點(diǎn)的人創(chuàng)建的,他們?cè)诰哂忻鞔_財(cái)務(wù)和政治目標(biāo)的公司結(jié)構(gòu)中工作。更重要的是,由于谷歌的系統(tǒng)越來(lái)越多地由從現(xiàn)實(shí)數(shù)據(jù)中學(xué)習(xí)的人工智能(AI)工具創(chuàng)建,它放大社會(huì)中存在的許多偏見(jiàn)的可能性也越來(lái)越大,甚至其創(chuàng)造者都不知道這些偏見(jiàn)。
谷歌表示,它意識(shí)到搜索結(jié)果中可能存在某些偏見(jiàn),并已采取措施加以預(yù)防。谷歌搜索排名團(tuán)隊(duì)的負(fù)責(zé)人潘杜·納亞克(Pandu Nayak)說(shuō):“我們已經(jīng)做出承諾,要不斷改進(jìn)搜索結(jié)果,以有效、可擴(kuò)展的方式不斷解決這些問(wèn)題。我們沒(méi)有坐下來(lái)忽視這些問(wèn)題?!?/p>
多年來(lái),諾布爾博士、其他研究隱藏偏見(jiàn)的人以及許多對(duì)谷歌影響力持批評(píng)意見(jiàn)的企業(yè),比如經(jīng)常與之作對(duì)的Yelp,始終在試圖就這家搜索公司如何影響在線言論和商業(yè)展開(kāi)公開(kāi)討論?,F(xiàn)在,人們擔(dān)心特朗普的錯(cuò)誤指控可能會(huì)破壞這種工作。弗吉尼亞大學(xué)媒體研究教授希瓦·瓦伊德哈亞納桑(Siva Vaidhyanathan)專門(mén)研究谷歌和Facebook對(duì)社會(huì)的影響,他說(shuō):“我認(rèn)為特朗普的抱怨毀掉了很多好的、復(fù)雜的想法,這些想法開(kāi)始影響公眾對(duì)這些問(wèn)題的意識(shí)。”
諾布爾博士認(rèn)為,更具建設(shè)性的對(duì)話對(duì)于“控制信息領(lǐng)域的壟斷”有好處。所以,我們應(yīng)該就此展開(kāi)建設(shè)性對(duì)話。
谷歌最重要的決定是保密
在美國(guó),大約80%的網(wǎng)絡(luò)搜索是通過(guò)谷歌進(jìn)行的。在歐洲、南美和印度,谷歌在搜索領(lǐng)域所占份額甚至更高。谷歌還擁有YouTube和Gmail等主要通信平臺(tái),并控制著Android操作系統(tǒng)和應(yīng)用店。它是全球占主導(dǎo)地位的互聯(lián)網(wǎng)廣告公司,通過(guò)這項(xiàng)業(yè)務(wù),它還塑造了數(shù)字新聞市場(chǎng)。
谷歌的力量本身并不具有破壞性。重要的問(wèn)題是它如何管理這種力量,以及我們?nèi)绾伪O(jiān)督它。這就是批評(píng)人士所說(shuō)的失敗之處。谷歌對(duì)公共話語(yǔ)的影響主要是通過(guò)算法產(chǎn)生的,其中最主要的是決定你在其搜索引擎中看到哪些結(jié)果的系統(tǒng)。這些算法是秘密的,谷歌稱這是必要的,因?yàn)樗阉魇撬摹敖瘗Z”(它不想讓微軟旗下必應(yīng)知道谷歌為何如此偉大),還因?yàn)榻忉屗惴ǖ木_工作方式會(huì)讓它們?nèi)菀妆徊倏v。
但這種最初的保密造成了令人不安的不透明。因?yàn)樗阉饕嬖谒阉鞯臅r(shí)候會(huì)考慮時(shí)間、地點(diǎn)和許多個(gè)性化因素,所以你今天得到的結(jié)果不一定和我明天得到的結(jié)果匹配。這使得外界很難對(duì)谷歌的結(jié)果進(jìn)行偏見(jiàn)調(diào)查。本周,很多人取笑特朗普為了支持自己的主張而提出的證據(jù)太少。但研究人員指出,如果谷歌以某種方式失控,并決定支持某個(gè)受青睞的候選人,那么只需要改變一小部分搜索結(jié)果就可以做到。如果公眾確實(shí)發(fā)現(xiàn)了這類事件的證據(jù),可能也無(wú)能為力。
馬里蘭大學(xué)法學(xué)院教授弗蘭克·帕斯夸里(Frank Pasquale)說(shuō):“對(duì)于如何調(diào)查和識(shí)別這些說(shuō)法,我們真的必須有更復(fù)雜的認(rèn)識(shí)。”在2010年發(fā)表在《法律評(píng)論》的文章中,帕斯夸里概述了聯(lián)邦貿(mào)易委員會(huì)(FTC)和聯(lián)邦通信委員會(huì)(FCC)等監(jiān)管機(jī)構(gòu)獲取搜索數(shù)據(jù)的方式,以監(jiān)控和調(diào)查有關(guān)偏見(jiàn)的指控。沒(méi)有人接受這個(gè)想法。Facebook最近草擬了一項(xiàng)計(jì)劃,允許學(xué)術(shù)研究人員訪問(wèn)其數(shù)據(jù),以調(diào)查偏見(jiàn)等問(wèn)題。
谷歌沒(méi)有類似的項(xiàng)目,但納亞克博士說(shuō),該公司經(jīng)常與外部研究人員共享數(shù)據(jù)。他還認(rèn)為,谷歌的搜索結(jié)果不像人們想象的那樣“個(gè)性化”,這表明搜索偏見(jiàn)出現(xiàn)時(shí)很容易被發(fā)現(xiàn)。納亞克指出:“我們所有的工作都是公開(kāi)的,任何人都可以評(píng)估它,包括我們的批評(píng)者?!?/p>
搜索偏見(jiàn)反映了現(xiàn)實(shí)世界的偏見(jiàn)
特朗普聲稱的那種地毯式的、故意為之的偏見(jiàn),必然會(huì)涉及到谷歌的許多員工。而谷歌當(dāng)前也在許多熱點(diǎn)問(wèn)題上糾纏不清,比如多樣性或者是否與軍方合作等,有政治頭腦的雇員向媒體提供了重要信息。如果有傳言說(shuō)谷歌的搜索團(tuán)隊(duì)正在扭曲政治目的,我們很可能會(huì)在媒體上看到這種陰謀的證據(jù)。
這就是在研究算法偏見(jiàn)問(wèn)題的研究人員看來(lái),為何更緊迫的問(wèn)題不是谷歌故意對(duì)某個(gè)主要政黨存在偏見(jiàn),而是對(duì)那些在社會(huì)中尚未掌權(quán)的人存在偏見(jiàn)。這些人包括女性、少數(shù)族裔以及其他缺乏經(jīng)濟(jì)、社會(huì)和政治影響力的人,他們被這家由加州富人經(jīng)營(yíng)的公司所忽略。正是在這些盲點(diǎn)上,我們發(fā)現(xiàn)了谷歌存在的最具問(wèn)題的偏見(jiàn),比如它曾經(jīng)建議對(duì)搜索“自學(xué)微積分英語(yǔ)專業(yè)”中的女性反身人稱代詞(herself)更正為男性(himself)。
谷歌的解釋一點(diǎn)兒都不奇怪,因?yàn)榫W(wǎng)上用后者更普遍,所以谷歌的電腦認(rèn)為這就是正確的。換句話說(shuō),社會(huì)上長(zhǎng)期存在的結(jié)構(gòu)性偏見(jiàn)在網(wǎng)絡(luò)上得到了復(fù)制,這反映在谷歌的算法上。最終,這個(gè)錯(cuò)誤被修復(fù)了,但是在谷歌中還隱藏了多少這樣的錯(cuò)誤呢?我們同樣不知道。
谷歌表示理解這些擔(dān)憂,并經(jīng)常解決這些問(wèn)題。2016年,有些人注意到谷歌將否認(rèn)大屠殺的網(wǎng)站列為搜索“大屠殺發(fā)生過(guò)嗎?”的結(jié)果頂部,這讓該公司開(kāi)始著手解決仇恨言論和網(wǎng)上的錯(cuò)誤信息。納亞克博士說(shuō),這種努力表明:“當(dāng)我們看到現(xiàn)實(shí)世界的偏見(jiàn)使搜索結(jié)果變得更糟糕時(shí),我們就會(huì)試圖觸及問(wèn)題的核心?!?/p>
谷歌最近逃脫了審查
然而,我們應(yīng)該擔(dān)心的不只是這些意外的偏見(jiàn)。研究人員還指出了其他問(wèn)題:谷歌的算法傾向于時(shí)效性和活躍性,這就是為什么在重大新聞事件發(fā)生后,谷歌的算法往往容易受到操縱,容易受誤導(dǎo)和謠言的影響。谷歌表示,它正致力于解決錯(cuò)誤信息。谷歌的許多競(jìng)爭(zhēng)對(duì)手指責(zé)說(shuō),在搜索結(jié)果中,谷歌更喜歡自己的內(nèi)容,而不是第三方網(wǎng)站內(nèi)容。例如,它會(huì)突出顯示谷歌的本地評(píng)論,而不是Yelp對(duì)本地搜索查詢的回應(yīng)。
歐洲監(jiān)管機(jī)構(gòu)已經(jīng)因?yàn)檫@種搜索偏見(jiàn)對(duì)谷歌處以罰款。2012年,美國(guó)聯(lián)邦貿(mào)易委員會(huì)的反壟斷調(diào)查人員在谷歌發(fā)現(xiàn)了不公平搜索行為的可信證據(jù)。然而,該機(jī)構(gòu)委員一致投票反對(duì)提起訴訟。谷歌也否認(rèn)有任何不當(dāng)行為。谷歌面臨的危險(xiǎn)是,無(wú)論特朗普的指控多么不實(shí),都為討論這些合法問(wèn)題創(chuàng)造了機(jī)會(huì)。此前,猶他州共和黨參議員奧林·哈奇(Orrin Hatch)呼吁聯(lián)邦貿(mào)易委員會(huì)重啟谷歌調(diào)查??赡苓€會(huì)有更多類似情況。在過(guò)去的幾年里,F(xiàn)acebook經(jīng)受住了社會(huì)對(duì)大型科技公司的質(zhì)疑?,F(xiàn)在,谷歌被推上了風(fēng)口浪尖。
【版權(quán)與免責(zé)聲明】如發(fā)現(xiàn)內(nèi)容存在版權(quán)問(wèn)題,煩請(qǐng)?zhí)峁┫嚓P(guān)信息發(fā)郵件至 1830498703@qq.com ,我們將及時(shí)溝通刪除處理。 以上內(nèi)容均為網(wǎng)友發(fā)布,僅代表網(wǎng)友個(gè)人觀點(diǎn),不代表平臺(tái)觀點(diǎn),涉及言論、版權(quán)與本站無(wú)關(guān)。