AI社會(huì)學(xué)｜社交媒體上的我們?yōu)槭裁慈绱藨嵟?/h1>

沈虹

2023-02-08 16:54

澎湃研究所 >

字號(hào)

不久前，我系畢業(yè)的博士生約瑟夫·斯蒂爾（Joseph Steering）做了一個(gè)超級(jí)可愛(ài)的論文。

為了研究如何使社交媒體上的用戶(hù)們相對(duì)文明地討論極具爭(zhēng)議性的政治議題，他和合作者們?cè)O(shè)計(jì)出了一系列不按常理出牌的驗(yàn)證碼（Captcha）。跟普通的驗(yàn)證碼（譬如，請(qǐng)找出下列帶有汽車(chē)的圖片）不同，斯蒂爾們?cè)O(shè)計(jì)的驗(yàn)證碼們含有隱藏的心理學(xué)暗示，分為“積極”和“消極”兩類(lèi)。譬如，同樣是請(qǐng)找出下列圖片里帶有人的那一組，“積極”的驗(yàn)證碼里顯示的圖片大多是趨向樂(lè)觀(guān)平靜的（比如足球賽和音樂(lè)會(huì)），“消極”的驗(yàn)證碼顯示的圖片卻大多是令人不安的（比如醉酒者或是抑郁者）。

為了更好地測(cè)試不同類(lèi)型的驗(yàn)證碼對(duì)社交媒體用戶(hù)發(fā)言的影響，在斯蒂爾的實(shí)驗(yàn)里，用戶(hù)在發(fā)帖前，會(huì)被隨機(jī)地分為兩組，只有通過(guò)所屬類(lèi)別的驗(yàn)證碼之后才能發(fā)帖。

圖為斯蒂爾實(shí)驗(yàn)里設(shè)計(jì)的兩組驗(yàn)證碼：上圖是“積極的”；下圖是“消極的”。來(lái)源：Seering, J., Fang, T., Damasco, L., Chen, M. C., Sun, L., & Kaufman, G. (2019, May). Designing user interface elements to improve the quality and civility of discourse in online commenting behaviors. In Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems (pp. 1-14)

斯蒂爾的論文證明了，積極的驗(yàn)證碼的確對(duì)用戶(hù)的發(fā)言質(zhì)量有顯著的影響：在發(fā)帖前看到積極平靜圖片的用戶(hù)，他的帖子會(huì)不自覺(jué)地更為積極正面，論述會(huì)更為復(fù)雜，也會(huì)顯示更多的社會(huì)聯(lián)系。

在斯坦福大學(xué)人機(jī)交互組做了兩年博士后研究之后，斯蒂爾即將加入素有“韓國(guó)清華”之稱(chēng)的KAIST（The Korea Advanced Institute of Science and Technology）擔(dān)任計(jì)算機(jī)系助理教授?；仡欉@篇發(fā)表于2019年人機(jī)交互領(lǐng)域頂級(jí)會(huì)議CHI的論文，斯蒂爾說(shuō)，這篇論文其實(shí)在評(píng)審過(guò)程中引發(fā)了極大的爭(zhēng)議。當(dāng)時(shí)的同行評(píng)審專(zhuān)家們對(duì)論文的發(fā)現(xiàn)很感興趣，卻對(duì)論文的設(shè)計(jì)有著倫理上的質(zhì)疑。最大的爭(zhēng)議圍繞著所謂的“說(shuō)服式設(shè)計(jì)”（Persuasive Design??)： 一種利用心理學(xué)理論來(lái)設(shè)計(jì)產(chǎn)品，使之以人類(lèi)不自知的方式影響人類(lèi)行為的設(shè)計(jì)。

同行評(píng)審專(zhuān)家們說(shuō)，這篇論文里的驗(yàn)證碼，就是這樣一種“說(shuō)服式設(shè)計(jì)”。用戶(hù)在不自知的情況下點(diǎn)開(kāi)或積極、或消極的驗(yàn)證碼，結(jié)果卻被貌似“中立”的驗(yàn)證碼們不知不覺(jué)地影響了自己在社交媒體上的發(fā)言。如果類(lèi)似驗(yàn)證碼的設(shè)計(jì)被惡意地使用在其他場(chǎng)景里呢？譬如，使用在大型社交媒體上，被用來(lái)影響民意，干預(yù)網(wǎng)民們?cè)诿绹?guó)大選時(shí)的發(fā)言？

其后果甚至可以是災(zāi)難式的。

對(duì)受過(guò)心理學(xué)訓(xùn)練的人來(lái)說(shuō)，即使貴為靈長(zhǎng)類(lèi)之首，人類(lèi)的行為模式事實(shí)上與動(dòng)物相差不遠(yuǎn)。人類(lèi)的思維簡(jiǎn)單粗暴，人類(lèi)的行為是非常容易被預(yù)測(cè)和引導(dǎo)的。

譬如，之前我們討論過(guò)的大名鼎鼎的“福格模型”（BJ Foog's Behaviour Model），就立志于在動(dòng)機(jī)、能力和觸發(fā)點(diǎn)這三個(gè)基本元素里尋找平衡。因?yàn)槿魏我粋€(gè)人類(lèi)行為的發(fā)生，都需要滿(mǎn)足以上三大基本元素：人們需要有產(chǎn)生行為的動(dòng)機(jī)、要有實(shí)行行為的能力，以及正好有一個(gè)合適的觸發(fā)點(diǎn)。

又比如，我們之前討論過(guò)的 “損失厭惡”（Loss Aversion） ，是指在面對(duì)同樣數(shù)量的收益和損失時(shí)，人類(lèi)會(huì)主觀(guān)地認(rèn)為損失比收益更加令他們難以忍受。譬如，與其告訴員工們 “在繁忙的周五晚上工作會(huì)將你的收入提高25%”，還不如簡(jiǎn)單地更換一下語(yǔ)言的組織方式，告訴他們：“如果你不在周五晚上工作，你會(huì)比那些在周五晚上工作的少賺25%”。即使是一樣的25%，告訴員工們“少賺”往往比“多賺”更能使他們憤懣難當(dāng)。

再比如，人類(lèi)還有非常嚴(yán)重的“確認(rèn)偏差” （Confirmation Bias）。當(dāng)我們確認(rèn)一個(gè)觀(guān)點(diǎn)之后，就會(huì)去竭盡全力地尋找證據(jù)來(lái)支持我們已經(jīng)相信的觀(guān)點(diǎn)，哪怕這一觀(guān)點(diǎn)本身缺乏足夠證據(jù)。我們會(huì)把模糊論據(jù)、疑似證據(jù)，不靠譜的消息、乃至假消息當(dāng)成支持自己這一派的理由。有些時(shí)候，我們甚至?xí)x擇性忽略對(duì)自己觀(guān)點(diǎn)不利的證據(jù)——不管那些證據(jù)是如何雄辯有力。

在社交媒體的進(jìn)化史上，利用心理學(xué)原理進(jìn)行設(shè)計(jì)的例子更是比比皆是，且大多以資本的利益為導(dǎo)向，以民眾的智識(shí)為犧牲。今年五月，美國(guó)著名的社會(huì)心理學(xué)家、紐約大學(xué)商學(xué)院的教授喬納森·海特（Jonathan Haidt）在《大西洋月刊》（The Atlantic）上發(fā)表了轟動(dòng)一時(shí)的長(zhǎng)文 “為什么過(guò)去十年美國(guó)人的生活尤其愚蠢”（Why The Past 10 Years Of American Life Have Been Uniquely Stupid），追溯了過(guò)去十年里社交媒體的進(jìn)化史，及其對(duì)美國(guó)公眾的負(fù)面影響。

在海特看來(lái)，2009-2011年左右的社交媒體，經(jīng)歷了從“善”到“惡”的分水嶺式轉(zhuǎn)變。其中一個(gè)很重要的標(biāo)志，就是臉書(shū)采用了全新的設(shè)計(jì)，更改了在用戶(hù)的主頁(yè)上內(nèi)容顯示的排序方式：從按“時(shí)間”排序變成了按“喜好”排序。

2009年之前，以臉書(shū)為代表的新一代社交媒體，使用的都是“按時(shí)間先后排序”——你在主頁(yè)上看到的內(nèi)容（好友最新的動(dòng)態(tài)，關(guān)注人的發(fā)帖）基本都按照一個(gè)非常簡(jiǎn)單的先后順序排列，最新的帖子排在最前面。2009年，臉書(shū)給所有的帖子增加了“贊” （Like）的按鈕，推特則進(jìn)一步，增加了“轉(zhuǎn)發(fā)”（Retweet）的功能。臉書(shū)迅速跟進(jìn)，在“贊”的基礎(chǔ)上，增加了“分享”（Share）的功能。

這些小小按鈕的增加，賦予了社交媒體在某種程度上體察用戶(hù)心理的超能力。臉書(shū)首當(dāng)其沖地發(fā)現(xiàn)了“點(diǎn)贊”按鈕產(chǎn)生的數(shù)據(jù)，經(jīng)由算法的處理，能準(zhǔn)確地預(yù)測(cè)哪些內(nèi)容更容易迎合用戶(hù)喜好，增加用戶(hù)與平臺(tái)互動(dòng)的頻率，從而把用戶(hù)盡可能長(zhǎng)時(shí)間地留在平臺(tái)上。很快，以臉書(shū)為代表的新一代社交媒體全體轉(zhuǎn)向，幾乎毫無(wú)例外地一致采用了按用戶(hù)的喜好——以“點(diǎn)贊”“分享”“轉(zhuǎn)發(fā)”為基準(zhǔn)進(jìn)行量化 —— 排列主頁(yè)內(nèi)容的方式。

站在2009-2011年轉(zhuǎn)向之初的社交媒體用戶(hù)們，起先并沒(méi)有發(fā)現(xiàn)更改內(nèi)容排序設(shè)計(jì)的威力。

臉書(shū)用戶(hù)們最開(kāi)始的困惑是，有些之前經(jīng)常發(fā)帖的朋友，莫名其妙地從他們的主頁(yè)上消失了。他們以為，也許是朋友把他屏蔽了——“我再未見(jiàn)過(guò)她貼任何東西! 我一直以為我和那個(gè)人并不是那么親近”。

緊接著，研究者們的大規(guī)模實(shí)驗(yàn)開(kāi)始發(fā)現(xiàn)，什么樣的帖子最容易收到用戶(hù)的“點(diǎn)贊”“分享”“轉(zhuǎn)發(fā)”呢？那些能夠引發(fā)用戶(hù)情感層面上的反應(yīng)的，尤其是，能夠引發(fā)對(duì)自己群體以外的那批人的憤怒的。這意味著，短平快、情緒激烈、容易激起憤怒的帖子在算法排序的時(shí)代里更占優(yōu)勢(shì)。長(zhǎng)文，不引發(fā)情緒反應(yīng)的、平緩的說(shuō)理文，會(huì)逐漸從用戶(hù)的主頁(yè)被算法默默抹去。在美國(guó)的語(yǔ)境下，也同時(shí)意味著社交媒體上，保守派和自由派之間的裂痕由此日漸加大。

更為嚴(yán)重的是，各大自媒體運(yùn)營(yíng)商在接入體量日漸龐大的社交平臺(tái)之后，也在自覺(jué)或不自覺(jué)地按照這一平臺(tái)制定的規(guī)則行事。如果能把用戶(hù)的“點(diǎn)贊”“分享”“轉(zhuǎn)發(fā)”應(yīng)用好，也就是，如果能有效地利用人類(lèi)容易被情緒和憤怒左右的天性，你的帖子會(huì)更容易“火”，更容易被算法推薦，被更多人閱讀和打賞，也就更容易轉(zhuǎn)化為直接可觀(guān)的利益收入。

當(dāng)然，最可怕的是，這個(gè)看似簡(jiǎn)單的排序方式的更改，在不自覺(jué)地影響著人類(lèi)在社交媒體上的行為。也就是說(shuō)，一開(kāi)始按人類(lèi)喜好訓(xùn)練的排序算法，在日復(fù)一日的排序過(guò)程中和人類(lèi)用戶(hù)進(jìn)一步互動(dòng)，也在不知不覺(jué)中重新塑造著人類(lèi)用戶(hù)的喜好：你喜歡憤怒的帖子，我給你更多憤怒的帖子，直到憤怒的程度被重新定義。

2021年，耶魯大學(xué)的心理學(xué)家威廉·布雷迪（William Brady）的團(tuán)隊(duì)使用計(jì)算機(jī)軟件收集并分析了來(lái)自7331名推特用戶(hù)圍繞一系列政治上極具爭(zhēng)議的話(huà)題發(fā)表的1270萬(wàn)條推文。論文發(fā)現(xiàn)：“社交媒體的激勵(lì)機(jī)制正在改變我們?cè)诰€(xiàn)政治對(duì)話(huà)的基調(diào)……一些人甚至隨著時(shí)間的推移學(xué)會(huì)了表達(dá)更多的憤怒，因?yàn)樗麄兊玫搅松缃幻襟w算法的正向反饋?！?/p>

在機(jī)器學(xué)習(xí)里，這種算法范式被廣泛運(yùn)用于各大社交媒體平臺(tái)，在與大規(guī)模人類(lèi)用戶(hù)的互動(dòng)里發(fā)揚(yáng)光大，有個(gè)非常反諷的名字，叫做“強(qiáng)化學(xué)習(xí)”（Reinforcement Learning）。

海特在他那篇引發(fā)巨大反響的雄文里反思到，社交媒體的這些貌似微不足道的設(shè)計(jì)在過(guò)去的十年里重塑了美國(guó)人的生活，“我們迷失了方向，無(wú)法說(shuō)同樣的語(yǔ)言，也無(wú)法認(rèn)識(shí)同樣的真理。我們不僅彼此隔絕，也與過(guò)去隔絕。” （We are disoriented, unable to speak the same language or recognize the same truth. We are cut off from one another and from the past.）

經(jīng)過(guò)激烈的辯論，斯蒂爾那篇論文得以面世。在論文的最后，斯蒂爾和作者們對(duì)他們?cè)O(shè)計(jì)的驗(yàn)證碼和備受爭(zhēng)議的“說(shuō)服性設(shè)計(jì)”提出了三個(gè)反思性問(wèn)題：

“首先，我們必須考慮哪些形式的‘說(shuō)服性設(shè)計(jì)’、在何種場(chǎng)景下、是可以接受的？這意味著在商業(yè)場(chǎng)景下、政治場(chǎng)景下、健康場(chǎng)景下會(huì)有不同的考量。

其次，我們必須考慮披露問(wèn)題。在道德上什么程度的披露是必要的？是否應(yīng)該在法律層面上要求使用說(shuō)服性設(shè)計(jì)的組織披露他們正在使用說(shuō)服性設(shè)計(jì)？是否應(yīng)該要求他們具體披露他們是如何使用的？

最后，是否應(yīng)該使用說(shuō)服性設(shè)計(jì)？我們認(rèn)為，最后一個(gè)問(wèn)題已經(jīng)有了答案；說(shuō)服性設(shè)計(jì)實(shí)際上已然是當(dāng)代所有(人機(jī)交互)設(shè)計(jì)的核心，無(wú)法與之分割。說(shuō)我們不使用說(shuō)服性設(shè)計(jì)，相當(dāng)于說(shuō)我們對(duì)于一種設(shè)計(jì)是如何影響人類(lèi)行為一無(wú)所知?！?/p>

 參考文獻(xiàn)：

1. Seering, J., Fang, T., Damasco, L., Chen, M. C., Sun, L., & Kaufman, G. (2019, May). Designing user interface elements to improve the quality and civility of discourse in online commenting behaviors. In Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems (pp. 1-14).

2. Haidt, J. (2022). Why the Past 10 Years of American Life Have Been Uniquely Stupid. The Atlantic, 11.

3. Eslami, M., Rickman, A., Vaccaro, K., Aleyasen, A., Vuong, A., Karahalios, K., ... & Sandvig, C. (2015, April). " I always assumed that I wasn't really that close to [her]" Reasoning about Invisible Algorithms in News Feeds. In Proceedings of the 33rd annual ACM conference on human factors in computing systems (pp. 153-162).

4. Brady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Emotion shapes the diffusion of moralized content in social networks. Proceedings of the National Academy of Sciences, 114(28), 7313-7318.

5. Rathje, S., Van Bavel, J. J., & Van Der Linden, S. (2021). Out-group animosity drives engagement on social media. Proceedings of the National Academy of Sciences, 118(26).

6. Brady, W. J., McLoughlin, K., Doan, T. N., & Crockett, M. J. (2021). How social learning amplifies moral outrage expression in online social networks. Science Advances, 7(33).

 -----

作者沈虹，畢業(yè)于美國(guó)伊利諾伊大學(xué)香檳分校傳播學(xué)系，現(xiàn)任職于美國(guó)卡內(nèi)基梅隆大學(xué)。她用社會(huì)學(xué)的方法研究新興科技。

 

責(zé)任編輯：單雪菱

校對(duì)：欒夢(mèng)

澎湃新聞報(bào)料：021-962866

澎湃新聞，未經(jīng)授權(quán)不得轉(zhuǎn)載

+1

收藏

我要舉報(bào)