香港文化產業聯合總會

Our Blog

「被建議」的搜尋?關於搜尋引擎自動建議工具的省思

April 3, 2018 娛樂, 網絡, 行業資訊, 設計 在〈「被建議」的搜尋?關於搜尋引擎自動建議工具的省思〉中留言功能已關閉

數位時代  作者:曹家榮  2018年4月3日

你有沒有留意過每次在搜尋引擎上鍵入字詞時,搜尋欄下方會立即跑出一些相關的詞句供選擇?這種被稱為「自動完成」或「自動建議」的工具,可以讓人不需打完所有字詞,就能選擇系統建議的字串進行搜尋,甚至有時候這個功能還可以讓使用者有意料之外的收穫。

 

我們是否能有一個「負責任」的自動建議工具?

這個看似方便、有效率的工具,卻存在影響深遠的負/副作用。去年年底,《New Media & Society》這本期刊上刊登了一篇由Boaz Miller與Isaac Record兩人合著的一篇研究論文,探討的正是搜尋引擎的自動建議工具所導致的問題。

這篇研究以2012年發生在德國前總理夫人Bettina Wulff身上的事件開場。

Wulff當時向搜引擎的龍頭Google提出告訴,因為只要有人在Google上搜尋她的名字,自動建議工具便會在其後加上如「prostitute」、「escort」等字詞。換言之,等同於是幫助散布了關於Wulff過去私生活的不實傳聞。

Wulff後來勝訴,Google也移除了相關的字串建議。不過,發生在Wulff身上的事還是持續發生在其他人身上。
為了試驗,我在Google搜尋欄上鍵入了前總統馬英九的大名,除了幾個合理的建議字串外,「蛋蛋」跟「巧克力」這兩個詞卻也在列。

因此,跟著Miller與Record追問:誰該為此負責?以及,我們是否能有一個「負責任」的自動建議工具?

 

誰該為傷害負責?

其實更精確地說,搜尋引擎的自動建議工具所帶來的負作用並不止於對個人造成的傷害。被搜尋的人當然是首當其衝的「受害者」,但Miller與Record主張,搜尋者本身也可能因此獲得錯誤資訊與知識。即便我們不見得會點選建議的字串繼續看下去,但那一瞥之間所形成的印象就足以產生影響。例如,印象中看過某資訊,便因此認為確有其事。

除了搜尋者與被搜尋者外,自動建議工具的負作用也影響整個社會。特別是在今天這個人們高度依賴網路、搜尋引擎獲取、傳散資訊與知識的時代,自動建議工具不斷地向人們「提議」某些無根據、甚至具歧視性、攻擊性的字串,阻礙人們對社會的認識,甚至是強化某些群體成員的受迫及污名處境。

例如,在Miller與Record的研究中,便提到了另一個關於Google自動建議工具的研究發現。研究顯示出,美國父母搜尋「Is my son gifted?」的次數遠超過「Is my daughter gifted?」2.5倍,但同時卻更常搜尋「Is my daughter overweight?」。

我出於好奇,也在Google上分別搜尋「女人應該」跟「男人應該」,建議字串也存在性別刻板印象。那麼,誰該為此負責?

 

都是they的錯?

從搜尋引擎自動建議工具的運作來看,所建議的字串來自幾個部分,以其他使用者的搜尋記錄為基礎的資料計算出最相關、熱門的字串,或是搜尋者個人過去相關的搜尋記錄等等。

因此,第一個想到的罪魁禍首是「那些曾經這樣搜尋過的他們」,換言之,都是they的錯。

除去一些人為操作的例外,基於自動建議工具運作邏輯,確實可以說搜尋引擎的使用者共同導致了這些負作用。或者,作為資訊傳散的某種管道,自動建議工具有時反映社會的主流觀感。這樣的說法仍有問題。

一方面,在Miller與Record的角度來看,我們之所以無法究責使用者集體,是因為即便他們同樣都使用搜尋引擎,卻稱不上一個「群體」,其內部既沒有組織性也沒有凝聚性。反過來說,「這群人」要能被究責就得有集體行動的可能,這點實際上不存在。

另一方面,不同於Miller與Record的看法,我認為「都是they的錯」的觀點忽略了「工具」本身作用。換言之,自動建議工具的運作不是反映既有觀點,而是再生產並放大了具歧視性、傷害性觀點。

我過去不只一次說過,工具從來就不只是工具,從來不只是遂行人類意志的手段,相反地,工具有其作用,工具的使用本身就帶來影響。因此,自動建議工具並不只反映既存歧視性、攻擊性觀點,而是在其運作中,增強、凸顯觀點的可見性與貌似事實性。

 

負責任的科技未來

在Miller與Record的研究中,自動建議工具本身的責任因其「無行為能力」解消,因此將責任歸屬在搜尋引擎提供者(如Google)身上。

他們最後也建議,搜尋引擎提供者至少得刪除三類自動建議的字串:
1. 源自於有組織性的攻擊活動。
2. 對社會弱勢群體具歧視性、傷害性字串。
3. 對於特定個人的中傷與毀謗。

但對我來說,對於自動建議工具的反思,其實跟近年來對自動駕駛、AI等發展的反思扣連在一起的。這些問題都在追問:當我們將越來越多的建議權、甚至決策權交給機器時,該如何釐清其中責任。或者說,我們是否知道電腦與機器不只是受控的工具,我們也不全然有控制權。

這些問題要求設計者、開發者改變「人類控制」、「人類計畫」的心態,並更多地從「社會責任」而不是僅僅追求便利與效率角度思考。

閱讀原文:https://bit.ly/2GsFm9P

下一篇
上一篇

About the Author -

[:en]Menu[:zh]目錄[:]