本文摘要：摘要網(wǎng)絡(luò)與人工智能技術(shù)的發(fā)展,以及流量經(jīng)濟的運行機制,導(dǎo)致社交媒體中出現(xiàn)社交機器人。社交機器人的興起,并不一定傳播假新聞,也可能在不涉及真/假問題的意見表達方面體現(xiàn)出其顯著影響。通過社交機器人發(fā)表的言論,網(wǎng)絡(luò)與現(xiàn)實中對意見的認識都會受到干擾,并且可能產(chǎn)生作
摘要網(wǎng)絡(luò)與人工智能技術(shù)的發(fā)展,以及流量經(jīng)濟的運行機制,導(dǎo)致社交媒體中出現(xiàn)社交機器人。社交機器人的興起,并不一定傳播假新聞,也可能在不涉及“真/假”問題的意見表達方面體現(xiàn)出其顯著影響。通過社交機器人發(fā)表的言論,網(wǎng)絡(luò)與現(xiàn)實中對意見的認識都會受到干擾,并且可能產(chǎn)生作用于物理空間的社會后果,從而形成對言論自由的挑戰(zhàn)。這種挑戰(zhàn),更突出體現(xiàn)于試圖影響政治的政治機器人言論,由于國際政治領(lǐng)域的“信息戰(zhàn)”而成為國家安全問題。因此,對人工智能語境下社交媒體中的社交機器人言論,應(yīng)當(dāng)在總體國家安全觀指引下加以重視和規(guī)制,并在此基礎(chǔ)上更新理解言論自由的理論思維。
關(guān)鍵詞社交媒體算法社交機器人政治機器人言論自由
引言:流量支配的言論在當(dāng)下這個信息爆炸的時代,所有人的注意力不可避免被具有流量的個人或事件所吸引,從而匯聚成為流量的一部分。流量經(jīng)濟的模式,在智能互聯(lián)網(wǎng)時代表現(xiàn)出強大的優(yōu)勢,構(gòu)成了一種全新的經(jīng)濟形態(tài)�！�1〕盡管公眾或許反感流量對自身注意力的支配,希望“流量為王”能夠向“內(nèi)容為王”轉(zhuǎn)變;〔2〕然而面對這一強大的潮流,仍然無法抵擋。
流量經(jīng)濟與智能互聯(lián)網(wǎng)緊密結(jié)合在一起,整體架構(gòu)決定了其具有的絕對優(yōu)勢。在網(wǎng)絡(luò)中被創(chuàng)造和分享的海量信息超出了人類的信息處理能力,造成信息的過載,因而人們更多依賴于一些具有信用品意義的符號來簡化自己的認知負擔(dān),形成快捷的決策。因此,這些符號成為了流量的基礎(chǔ),聚焦了人們的注意力。而算法的分析能夠更精確地將部分符號推送給受眾,使其認知的視野被有效的框定。同時,基于算法形成的排名,使公眾的認知進一步形成循環(huán),從而導(dǎo)致贏家通吃的局面。
處于“頭部”的符號因為其流量規(guī)模更容易被公眾關(guān)注到,而公眾對其的關(guān)注又會進一步提升流量數(shù)據(jù),從而不斷循環(huán),使排名靠后者更難以獲得被認識到的機會。平臺獲得消費者的行為數(shù)據(jù),以此對算法進行完善,再通過這樣的算法將消費者更緊密地綁定在平臺上。由此,消費者的行為數(shù)據(jù)成為了核心的生產(chǎn)資料,服務(wù)于掌握著平臺的資本。在這樣一個整體架構(gòu)中,流量經(jīng)濟得到了有效的運行,個人也難以從中脫離出來。
處于這樣一個流量時代,無論是社會還是個人都不可避免地深受影響。在當(dāng)代智能互聯(lián)網(wǎng)場景中,公眾所發(fā)表的言論一旦成為大數(shù)據(jù)可以處理的信息,也就具有了資源的性質(zhì)。公共言論中討論到的人物與事件獲得了流量,再將流量轉(zhuǎn)化為影響力,而沒有得到討論和表達的聲音,則會逐漸銷聲匿跡,進而失去對現(xiàn)實世界的影響力。因此,在經(jīng)典的法學(xué)視角中具有重要地位的言論自由,在新的時代背景下就會體現(xiàn)出新的問題形態(tài)與實踐挑戰(zhàn)。本文的問題意識由此引出,但本文并不試圖面面俱到地討論言論自由問題,而是關(guān)注其中一個具體問題,即在智能互聯(lián)網(wǎng)與流量經(jīng)濟的技術(shù)與政治經(jīng)濟邏輯推動下,人工智能如何重塑了言論的生成與運作機制,并產(chǎn)生了怎樣的影響。這樣的研究視角,已經(jīng)被運用于對“假新聞”的研究,形成了深刻的分析�！�3〕
而在新聞之外,公共言論包含了更大空間。因此,本文將超出新聞這一范疇,試圖關(guān)注與客觀事實“真/假”無涉的公共言論,提出主觀意見的“真/假”問題對言論自由的挑戰(zhàn)。更具體來說,這種主觀意見的“真/假”問題并不是指意見本身的不存在,而是指其通過人工智能的運用而得到新的表達效果,在當(dāng)代互聯(lián)網(wǎng)中出現(xiàn)的社交機器人(socialbots),能夠基于算法的設(shè)計,以自動化的方式生成言論,并偽裝成人的言論進入思想市場。社交機器人及其影響在政治學(xué)和傳播學(xué)領(lǐng)域中已經(jīng)得到了重視與討論,但法學(xué)界的研究尚處于空白狀態(tài)。〔4〕
圍繞這一問題,本文將首先討論信息技術(shù)變遷對網(wǎng)絡(luò)言論產(chǎn)生的影響,描述社交機器人出現(xiàn)的背景。文章第二部分描述社交機器人的運作機制,指出機器人言論通過什么樣的技術(shù)條件與社會基礎(chǔ)產(chǎn)生影響。接下來,第三部分指出社交機器人改變了傳統(tǒng)意義上的思想市場,從而形成對于言論自由的挑戰(zhàn)。文章第四部分將進一步分析機器人言論引發(fā)的政治后果,首先是對國內(nèi)民主政治造成的損害,進而體現(xiàn)出對國家安全的威脅。第五部分從現(xiàn)象的描述轉(zhuǎn)入對策的分析,指出在中國語境中治理社交機器人,主要意義和關(guān)鍵難題都在于國際政治維度的信息戰(zhàn),因此需要在總體國家安全觀的指引下探討規(guī)制對策。
一、誰的言論:社交機器人的興起
互聯(lián)網(wǎng)興起以來,其中的言論問題就始終備受關(guān)注。早期互聯(lián)網(wǎng)被視為一個高度開放的言論空間,讓不同個體獲得便捷渠道暢所欲言。當(dāng)社交媒體成為重要的網(wǎng)絡(luò)平臺之后,廣大網(wǎng)民借助于社交媒體形成緊密鏈接來獲得各類信息并交流意見。在這樣的交流過程中,由于網(wǎng)絡(luò)中信息交流成本的大幅度降低,其中的言論表達較之于傳統(tǒng)社會中的線下交流產(chǎn)生了顯著變化。
其中被關(guān)注最多的現(xiàn)象,是網(wǎng)絡(luò)上的虛擬流瀑導(dǎo)致“群體極化”,幫助那些分散遙遠的人發(fā)現(xiàn)持有相同意識形態(tài)的伙伴,強化自己的觀點,使社會中形成更多持有極端意見的群體,而失去在共同經(jīng)驗基礎(chǔ)上的社會粘性,從而造成社會分裂�！�5〕社交媒體平臺中的這種言論形態(tài),一度引發(fā)關(guān)于“謠言”和“辟謠”的熱烈爭議,也引發(fā)了相應(yīng)的理論討論�！�6〕隨著互聯(lián)網(wǎng)技術(shù)進一步發(fā)展,智能互聯(lián)網(wǎng)時代中的算法推薦,對言論表達產(chǎn)生了進一步的影響。在群體極化的基礎(chǔ)上,個體更進一步被封閉在由自己選擇愿意看到的信息所構(gòu)成的“信息繭房”中。〔7〕
如果說在早期的社交媒體中,人們是基于自己主動的搜尋和交流形成了極化的群體,那么在智能互聯(lián)網(wǎng)時代的社交媒體中,人們實際上并非主動發(fā)現(xiàn)與自己同氣相求的群體,而是基于算法的個性化推薦被吸引到了一起。大數(shù)據(jù)分析使個體的興趣與偏好被更充分細致的分析,算法技術(shù)的發(fā)展形成了基于內(nèi)容和網(wǎng)絡(luò)互動的推送方式,基于個體行為數(shù)據(jù),算法對個體偏好進行用戶畫像分析,從而對個體進行更精準(zhǔn)的信息投送,始終以符合其偏好的信息進行引導(dǎo)。于是“網(wǎng)絡(luò)共和國”被“標(biāo)簽共和國”所取代,標(biāo)簽共和國中的個人被算法推送的標(biāo)簽更有力地支配,并與其他人形成了信息和聲譽上更強的虛擬流瀑�！�8〕
無論討論群體極化還是信息繭房,雖然體現(xiàn)出算法介入的影響,但言論的主體并未改變,仍然是互聯(lián)網(wǎng)中的“網(wǎng)民”。盡管在早期互聯(lián)網(wǎng)中曾有一個著名的說法“沒有人知道網(wǎng)絡(luò)對面是不是一條狗”,但這只是強調(diào)網(wǎng)絡(luò)賬號同線下身份的分離,而不會懷疑言論是否來自人類。前人工智能時代,對互聯(lián)網(wǎng)的言論問題關(guān)注重點在于言論如何得到更為自由的表達,以及表達的社會效果。而人工智能時代的信息技術(shù)演進,則在算法推薦的基礎(chǔ)上形成了社交機器人這種革命性的變革,導(dǎo)致了言論主體的改變,并進一步改變了互聯(lián)網(wǎng)中的言論生態(tài)。
社交機器人作為一種自動化的軟件,能夠控制社交網(wǎng)絡(luò)中的特定賬號,以類似于控制賬號的人類的行為方式在社交網(wǎng)絡(luò)中活動,包括主動發(fā)布文本、照片或表情包形態(tài)的信息,轉(zhuǎn)發(fā)或評論其他賬號發(fā)布的信息,訪問其他賬號主頁以及點贊或申請?zhí)砑雍糜�。更重要的�?社交機器人隱秘行動,同那些直接表明是自動化程序的賬號區(qū)分開來,冒充為人類行為,利用對人類社交關(guān)系網(wǎng)的分析,潛伏在社交網(wǎng)絡(luò)中獲得有影響力的地位。〔9〕
社交機器人的這些行動,重點在于抓住眼球,強化了人類用戶與其發(fā)布的信息的接觸,突出的是流量與“用戶粘性”,而不是全面和審慎的信息獲取與鑒別。在早期的網(wǎng)絡(luò)言論生態(tài)中,“水軍”就被視為一種干擾力量,對人們造成誤導(dǎo),因而需要對其規(guī)制以保障網(wǎng)絡(luò)中的言論自由�！�10〕而社交機器人的興起,實際上就是“機器人水軍”取代了“人類水軍”。早期的機器人水軍技術(shù)水平較低,技術(shù)基礎(chǔ)是“群控系統(tǒng)”,即通過系統(tǒng)自動化控制集成技術(shù),把多個手機操作界面直接映射到電腦顯示器,實現(xiàn)由一臺電腦來控制幾十臺甚至上百臺手機的效果,在此基礎(chǔ)上通過批量模擬腳本來模擬許多賬號的行為�！�11〕
如果只能按照事先設(shè)定的言論進行機械的重復(fù),完成簡單功能,就很容易被發(fā)現(xiàn),重復(fù)的言論也會被作為無效的信息被排除,難以影響人們的認知。而社交機器人的自組織,意味集群個體不依賴某一操控主體對其進行集中的組織管理,而依靠自身遵循一定的行為準(zhǔn)則,通過觀察其所處的環(huán)境,與臨近的目標(biāo)對象進行局部交互,在整體上協(xié)同配合達成集群所需要的目標(biāo),因此操縱者不需要如同水軍的操縱者那樣事無巨細地進行實時具體的指導(dǎo),而可以事先在宏觀上制定機器人個體的行為規(guī)則,讓其依賴人工智能自動運行,涌現(xiàn)演化形成了所有個體相互配合的集群智能傳播模式,以達成所需的傳播效果�！�12〕早期的社交機器人非常幼稚,或是只能自動發(fā)布預(yù)先設(shè)定的文本,或是語無倫次因而毫無意義�！�13〕
因此,社交機器人的廣泛運用,其技術(shù)基礎(chǔ)在于機器學(xué)習(xí)能力的提升,能夠使其表現(xiàn)出類似于人類用戶所控制的賬號的行為模式。其通過抓取人類聊天中的關(guān)鍵詞進行學(xué)習(xí),理解語言背后所表達的意圖,并由此不斷改進自身語言表達方式,與人類用戶在社交網(wǎng)絡(luò)中進行實質(zhì)性互動。在人工智能不斷提升的過程中,除了對文本自然語言的理解,對圖像、表情等表達形式的理解和學(xué)習(xí)能力也在不斷提高。
社交機器人通過“情感計算”技術(shù)提升了互動能力,以及對人的共情能力和情緒表達能力。〔14〕通過這樣的技術(shù)手段,社交機器人所表達的觀點并非來自于事先擬就的文本,而是在交流語境中自動生成,更緊密地同話題聯(lián)系起來。而且,社交機器人還能夠識別出人類的社交關(guān)系圖譜,分析人類在社交網(wǎng)絡(luò)中的行為,設(shè)法同擁有大量關(guān)注對象的用戶建立起聯(lián)系,并利用共同好友關(guān)系繼續(xù)進行擴散。〔15〕
當(dāng)這樣的社交機器人活躍于社交網(wǎng)絡(luò)中時,就不僅僅是作為一個靜態(tài)數(shù)字的“僵尸粉”,而是能夠形成實際的互動。社交機器人通過諸多接口可以接入社交網(wǎng)絡(luò)中,簡單的驗證碼并不能形成屏蔽,社交網(wǎng)絡(luò)對此的防御相當(dāng)脆弱�！�16〕雖然檢測程序不斷發(fā)展,試圖更好識別出偽裝成人類的社交機器人,但機器人也在改進行為特征,使之更難以被檢測程序所發(fā)現(xiàn)。〔17〕由于社交機器人的設(shè)計本身就追求隱秘性,檢測程序的運用并不能像過濾垃圾郵件那樣輕松地將其在社交網(wǎng)絡(luò)中排除掉。
一系列實證考察都顯示了社交機器人在互聯(lián)網(wǎng)已經(jīng)發(fā)展到一個較高的比例。2012年,Facebook的一份報告估計,所有賬戶中有5-6%是虛假或偽造的,這意味著大約有5000萬用戶是虛假的�！�18〕而研究者對推特中的社交機器人比例的估計則更高,系統(tǒng)檢測分類顯示53.2%的用戶是人類,36.2%是人機協(xié)同(cyborg),10.5%是機器人�！�19〕如果考慮到社交機器人完全可能比人類在社交網(wǎng)絡(luò)中更為積極地發(fā)布信息,那么來源于社交機器人的信息比例會比用戶數(shù)據(jù)的比例還要高得多,例如由DistilNetworks公司所發(fā)布的《2018惡意機器流量報告》指出,2017年42.2%的互聯(lián)網(wǎng)流量由機器產(chǎn)生。〔20〕
二、如何發(fā)言:社交機器人的運作邏輯
社交機器人的偽裝性,使其表現(xiàn)為像人類用戶一樣正常參與社交網(wǎng)絡(luò)活動:表達觀點、發(fā)布信息、關(guān)注其他用戶。當(dāng)大量的社交機器人以這樣的方式在網(wǎng)絡(luò)中活動時,就構(gòu)成了“僵尸網(wǎng)絡(luò)”(botnet)�！�21〕這樣的僵尸網(wǎng)絡(luò)沒有侵入人類用戶賬號或竊取隱私信息,也不同于傳統(tǒng)的垃圾郵件程序造成的侵擾,而是試圖表現(xiàn)為具有實質(zhì)意義的社交活動,活動形態(tài)與人類高度相似。社交機器人只是在表達言論而已,只是這種言論的主體并非人類,而是人工智能。而基于這樣的特性,社交機器人的挑戰(zhàn)就更加凸顯出來。
我們必須正視新的言論生態(tài):社交機器人不僅僅在轉(zhuǎn)發(fā)新聞,其發(fā)表的觀點是言論,轉(zhuǎn)發(fā)和點贊也是言論,網(wǎng)絡(luò)空間中存在著大量的機器人言論。有學(xué)者指出,社交媒體的生態(tài)正在從完全由“人”主導(dǎo)變?yōu)?ldquo;人+社交機器人”的共生狀態(tài),社交機器人已經(jīng)成為社交媒體的一個有機組成部分,社交機器人產(chǎn)品的不斷迭代逐漸消解了人類用戶在社交媒體中的唯一主體地位,社交機器人也逐漸成為信息內(nèi)容生產(chǎn)、觀念傳播和意義表達的重要參與者,社交媒體成為“人”與“社交機器人”的共生空間。〔22〕
如果從技術(shù)上很難清除所有的社交機器人,回到其出現(xiàn)之前的網(wǎng)絡(luò)空間的話,那么,人們就不能裝作看不見社交機器人的影響,而必須在這樣的共生狀態(tài)下理解社交網(wǎng)絡(luò),理解網(wǎng)絡(luò)空間的言論自由。當(dāng)言論的主體并非人類時,就不能運用對人類的言論自由觀念與制度去加以回應(yīng)。而且,在社交機器人與人類共生的網(wǎng)絡(luò)空間中,社交機器人試圖模仿人類行為,但目標(biāo)并不局限于模仿人類,而是要改變?nèi)祟愋袨��！?3〕由于社交網(wǎng)絡(luò)已經(jīng)成為人類社會的重要組成部分,這種大規(guī)模出現(xiàn)的新形態(tài)言論的作用不局限于虛擬空間,而是也影響到線下的物理世界,形成具有社會意義的后果。
當(dāng)人類行為確實可能被改變時,這一問題的法學(xué)意義也就更為突出,必須加以高度關(guān)注。不同于計算機科學(xué)對社交機器人的研究更關(guān)心什么樣的言論,也不同于社會學(xué)的研究更關(guān)心人機關(guān)系,法學(xué)的研究必須重視這種社會后果。 社交機器人在網(wǎng)絡(luò)中的使用,不是個體性的,而是大規(guī)模的,通過相互分工合作結(jié)合成為機器人組成的僵尸網(wǎng)絡(luò)。也只有通過大規(guī)模的使用,才能形成一個復(fù)雜系統(tǒng)的“涌現(xiàn)行為”、形成其自組織,體現(xiàn)出更高的智能�！�24〕
也只有在達到一定規(guī)模的情形下,社交機器人問題才有必要進入法學(xué)的視野。對社交機器人言論所造成的社會后果,應(yīng)當(dāng)重點關(guān)注作為大規(guī)模群體的社交機器人的協(xié)同使用所產(chǎn)生的效果,而不是只考察作為個體的言論,同時也應(yīng)當(dāng)注意到協(xié)同使用大規(guī)模社交機器人的實際控制者。
當(dāng)社交機器人被大規(guī)模協(xié)同使用時,也就在社交網(wǎng)絡(luò)中增加了大量的言論,顯著超出人類用戶言論的規(guī)模。當(dāng)社交機器人能夠以類似于人的行為模式去進行互動時,這些言論生成的信息會進一步強化人們在網(wǎng)絡(luò)空間中的信息過載,因而導(dǎo)致對信息處理能力的干擾,并且影響到判斷和決策。而且,機器人言論相對人類并不僅具有數(shù)量上的影響,信息效率也至關(guān)重要。
當(dāng)一篇文章首次在社交媒體上發(fā)布的最初幾秒,機器人可能比之后更大規(guī)模地使用,這種早期干預(yù)讓許多用戶更容易看到,增加了文章被病毒式傳播的機會�！�25〕但對人類用戶而言,其往往難以在第一時間注意到新的文章或標(biāo)簽,也無法一天24小時在線,難以進行病毒式傳播。在病毒式傳播機制中,社交機器人作為社會傳染的傳染源,通過按需改變社交網(wǎng)絡(luò)的動態(tài)結(jié)構(gòu),能夠掌控目標(biāo)受眾接觸傳染源的渠道,并且比人類之間的社會傳染具有更高的效率,形成了從社會傳染到社會擴散的高效驅(qū)動機制�！�26〕因此,當(dāng)社交機器人被廣泛運用之后,人們在網(wǎng)絡(luò)空間中所看到的言論,大量來自于機器人。而且,社交機器人往往被用于傳播那些低可信度的言論�！�27〕
對這些低可信度的言論作為“謠言”或“假新聞”的討論已經(jīng)較為充分,但是,不涉及真假的言論,同樣也會造成相應(yīng)的社會后果。社交機器人的言論所造成的干擾,最直接的影響就是“社會流瀑效應(yīng)”,即缺乏足夠信息處理能力的人們,因為某些信息相對其他信息更高強度地出現(xiàn),因而選擇相信這些信息。〔28〕這種社會流瀑效應(yīng)不僅僅針對關(guān)于事實的新聞,也會涉及對觀點的取舍,并無前見、未形成堅定立場的中立公眾,因為某些觀點似乎被更多人表達而作出選擇接受這些觀點。
由于人類認知固有的局限性,“三人成虎”的社會流瀑也并非新鮮現(xiàn)象。但當(dāng)機器人言論這一變量加入之后,這一現(xiàn)象發(fā)生了進一步的變化:機器人言論能夠更有效率的增強人們接收到信息的強度,使人們更容易因為看到某些信息的反復(fù)出現(xiàn)而傾向于接受。人們過去是基于更多人表達出某種言論而被社會流瀑所影響,但當(dāng)言論可能出自機器人時,人們更多看到的言論其實并非更普遍的言論,因而受到誤導(dǎo),進入到原本不存在的社會流瀑中。
三、思想市場的異化:社交機器人對言論自由的挑戰(zhàn)
從對人類信息處理能力的干擾出發(fā),社交機器人有力地強化了某些信息,同時也弱化了另一些信息。從客觀事實的角度來說,這些信息可能都是真實的,并不能將其判定為謠言。但即使是真實的信息,通過社交機器人的表達,因為其相對人類言論具有大規(guī)模、高效率、全天候、自組織等一系列優(yōu)勢,從而挑戰(zhàn)了人類的言論自由。真實的人類言論因為被忽略或隱藏而無法得到有效的傳播,這種現(xiàn)象顛覆了思想自由市場這一理想形態(tài)。密爾(JohnStuartMill)指出,正是對自由言論和多樣性意見的保護使真理得以浮現(xiàn)出來,并獲得自我矯正功能,被壓制的言論可能是真理,即使不是真理,也可能包括了真理的成分或者通過交鋒而磨礪真理�！�33〕
當(dāng)人們普遍接受真理是相對的并且不斷發(fā)展這一觀念,也就自然而然接受了密爾對言論自由價值的這一論證,認為自由進行表達和討論是接近與發(fā)展真理的重要保障�；裟匪�(OliverWendellHolmes)則進一步提出了著名的“思想的自由市場”的比喻�！�34〕習(xí)慣了市場經(jīng)濟的人們形象地意識到思想的自由競爭類似于實體商品市場上的自由競爭,市場的自由競爭最終會實現(xiàn)優(yōu)勝劣汰,因此,思想的優(yōu)劣最終是由消費者的行動作出決定而非由單一的權(quán)威事先確定的。自由的思想市場可以與商品市場進行類比,兩個市場之間沒有本質(zhì)性的差別。〔35〕
而在網(wǎng)絡(luò)時代,這個市場的“基礎(chǔ)設(shè)施”已經(jīng)發(fā)生了根本變化�！�36〕如果在這個市場上,競爭的對手并非普通人,而是大規(guī)模有組織的社交機器人時,這就成為了嚴(yán)重不對等的競爭。普通人的言論自由面對社交機器人,處于壓倒性的劣勢地位。盡管人類的思想市場從來也不是平等的自由競爭的理想狀態(tài),而是如同商品的自由市場的異化一樣,更好的商品在異化的市場中難以“優(yōu)勝”,而劣質(zhì)者也未必會“劣汰”�！�37〕
但社交機器人進入到這種競爭中來,就如同熱兵器對冷兵器的代差,造成了言論生態(tài)的根本性改變。社交機器人通過在網(wǎng)絡(luò)空間中對言論生態(tài)的改變,進一步影響線下社會。人類社會中許多行為決策都依賴于社會互動,對他人會如何決策所做出的預(yù)測決定個人決策,而這種預(yù)測又來自于他人表達的言論所提供的信息。在這種情況下,社交機器人言論就可能導(dǎo)致對他人的錯誤預(yù)測,進而形成錯誤決策,通過自我實現(xiàn)的預(yù)言,對人類預(yù)期和決策產(chǎn)生影響。
例如,在高度依賴于預(yù)期的金融市場當(dāng)中,機器人言論使投資者認為某一家公司的股票確實得到了許多人的關(guān)注,從而大量交易該股票,而這就進一步驗證了預(yù)言,使市場朝著機器人的控制者所期望的方向波動�！�38〕當(dāng)然,類似的這種預(yù)期也會在其他市場中體現(xiàn)出來,例如市場營銷中對社交機器人的使用,以機器人言論偽裝為消費者對商品或服務(wù)的評價,消費者對品牌的認知也可能以這種方式被掌控,從而影響市場格局�！�39〕而娛樂市場則是這種操縱的更極端體現(xiàn),無論是“黑”還是“粉”,機器人言論都在制造流量,而流量決定了市場資源的分配,雖然許多消費者并不認同流量明星以及他們的作品,但在這樣的市場中卻別無選擇,離開了流量明星的作品可能根本就無法進入市場。
四、從自由到安全:社交機器人的深層挑戰(zhàn)
由于上述影響,社交機器人的運用就很容易超出商業(yè)范疇,不僅僅被用于制造流量和吸引用戶,還被用于政治目標(biāo)。社交機器人傳播的低可信度信息,很大一部分就是政治信息�！�40〕因此,社交機器人又發(fā)展出了“政治機器人”(politicalbots)這一特定分類,在社交機器人中占據(jù)了很大的比例�！�41〕
政治機器人的運用機制與一般的社交機器人相同,但用途更為集中于政治領(lǐng)域。政治機器人并不只發(fā)表政治言論,而是通過類似于人類用戶的全面社交活動,形成政治影響。對政治機器人的關(guān)注始于2010年的美國中期選舉�！�42〕如同流量明星需要粉絲一樣,政治競選中的明星也同樣需要,而政治機器人首先就起到了這樣的功能,諸如羅姆尼(WillardMittRomney)、金里奇(NewtGingrich)、奧巴馬(BarackHusseinObama)等人都被質(zhì)疑通過政治機器人來制造虛假粉絲獲得人氣。〔43〕在此之后,政治機器人的作用日益突出,2016年的美國總統(tǒng)大選使其更受到前所未有的關(guān)注,在選舉中政治機器人的運用導(dǎo)致了基于惡意目標(biāo)的影響力再分配,強化了社會中的群體極化,也助長了假新聞的流行。〔44〕
以政治和法律為目標(biāo)的機器人成為了政治戰(zhàn)略與通訊技術(shù)領(lǐng)域最流行的創(chuàng)新趨勢,在社交媒體中廣泛且活躍存在,政治機器人在美國的政治溝通中占據(jù)的角色雖然微小,但卻具有戰(zhàn)略意義�！�45〕政治機器人作用于競爭性選舉,不僅局限于美國,而是形成了更一般性的運作機制。〔46〕在競爭性選舉之外,政治機器人的影響也不容忽視,不僅通過虛假的人氣或假新聞干預(yù)選舉,更通過偽裝的人類觀點影響政治決策。同一般的社會話題相比,政治話題本身在社會中就具有更高的爭議性,有分歧的公眾更容易形成激進的對峙,也更容易形成抱團取暖的極化群體,因而體現(xiàn)出社交媒體更顯著的影響。盡管其結(jié)果好壞不一,但社交媒體已經(jīng)成為了許多政治運動的協(xié)調(diào)工具�！�47〕
越是極端和激進的觀點更容易在社交媒體中吸引眼球,并且強化用戶的情感參與、加強互動,達成群體極化。相對于“理中客”的意見,“噴子”的聲音更容易在社交媒體中被放大。因此,政治機器人更有效的手段并非傳遞純粹虛假的新聞,而是去強化某些觀點的傳播。政治機器人表達出來的觀點可能本身是真實并合法的,但被放大了。當(dāng)分裂的政治信息被強化時,既可能作為一種有組織的騷擾迫使人們自我審查,也可能作為煽動信息而引發(fā)更情緒化和更極端的意見�！�48〕通過政治機器人的參與,某些政治意見被高強度地在互聯(lián)網(wǎng)中展現(xiàn)出來,從而導(dǎo)致關(guān)于政治議題的網(wǎng)絡(luò)輿論被扭曲,使公眾與政治家都無法真實把握社會中的立場分化和不同立場的強弱比較。例如,在英國脫歐公投前后,推特上有一系列機器人高度活躍,之后又快速消失,通過機器人網(wǎng)絡(luò)迅速生成了社會流瀑,其轉(zhuǎn)發(fā)的并非嚴(yán)格意義上的假新聞,而是傾向性非常明顯的觀點。〔49〕
在互聯(lián)網(wǎng)導(dǎo)致政治參與更加普遍化和扁平化的背景下,草根的力量似乎變得更為強大,但政治機器人的運用使得人們不知道支持者究竟真是草根還是機器人,無法真實觀察什么是草根的聲音、誰代表著草根的力量,因此導(dǎo)致了對民主的破壞。〔50〕在這樣的運作過程中,政治團體通過將政治機器人打造成虛擬的意見領(lǐng)袖,與民眾建立起更為穩(wěn)固的社交關(guān)系,借助算法的機器手段來實現(xiàn)政治傳播目的,“真人”意見領(lǐng)袖需要一定培育時間,不可復(fù)制而且其傳播效果還會受到個體行為的影響,但“機器”意見領(lǐng)袖可以實現(xiàn)量產(chǎn),而且其形象不會受到現(xiàn)實生活影響,更容易塑造完美的意見領(lǐng)袖形象。
五、中國語境的規(guī)制:總體國家安全觀的視角
基于對社交機器人的分析可發(fā)現(xiàn),即使其言論并不傳播客觀虛假的信息,但其在社交網(wǎng)絡(luò)中造成的負面影響仍然不容忽視,尤其是政治機器人,如誤導(dǎo)公共決策,扭曲民主過程,擾亂社會輿論,加強群體極化,甚至直接意味著一種新型戰(zhàn)爭手段發(fā)起的攻擊。隨著信息技術(shù)的不斷發(fā)展,社交機器人不會被徹底消滅,回到之前的狀態(tài)。社交媒體生態(tài)系統(tǒng)的未來可能已經(jīng)指明了這樣一個方向:機器與機器之間的互動成為常態(tài),人類將走向一個主要由機器人組成的世界。〔66〕
而且,由于機器人言論本身具有的合法特性,利用和人類用戶同樣的網(wǎng)絡(luò)架構(gòu)發(fā)揮作用,因而無法僅僅通過網(wǎng)絡(luò)安全的技術(shù)手段加以處理。更好的網(wǎng)絡(luò)安全有助于降低對手發(fā)動網(wǎng)絡(luò)戰(zhàn)攻擊的能力,但卻無助于降低對手發(fā)起信息戰(zhàn)攻擊的能力�！�67〕因此,需要形成的是對社交機器人的規(guī)制,在其仍然被使用的前提下盡可能削弱負面影響。
六、結(jié)語
社交機器人并非獨立存在的現(xiàn)象,而是同各類人工智能技術(shù)結(jié)合,立足于社交媒體的全網(wǎng)絡(luò)覆蓋和流量經(jīng)濟的基本市場結(jié)構(gòu)發(fā)揮作用。而在目前的法學(xué)研究中,談起“機器人”更多還是實體化的想象,卻忽略了這種更真實的存在。然而,較之于討論機器人的民事主體地位或是刑事責(zé)任能力,從國家安全的視角思考社交機器人對言論自由的影響,則是更重要的問題。
不同于關(guān)注機器人傳播虛假事實的研究,本文更進一步討論了機器人言論中包含的不涉及客觀真?zhèn)闻袛嗟闹饔^意見所產(chǎn)生的影響,并指出從國家安全的視角來看,對這種形式上符合言論自由的言論應(yīng)當(dāng)加以規(guī)制。在社交媒體深刻嵌入公眾生活的背景下,社交機器人興起,通過自動化程序掌控賬號,模仿人類用戶的行為模式,以發(fā)言、轉(zhuǎn)發(fā)、點贊、評論、添加好友、發(fā)布狀態(tài)等一系列行動共同構(gòu)成“言論”。
人工智能技術(shù)的發(fā)展,使社交機器人能夠更好隱藏自己的身份,突破平臺的過濾,也不容易被普通用戶識別,從而使其言論在社交媒體中大量傳播,形成人類用戶與社交機器人共存的言論生態(tài)�；谶@種共存的背景,某些信息被機器人更多傳播,某些信息則相應(yīng)被淡化了,導(dǎo)致社交媒體中的社會流瀑、群體極化等效應(yīng)更進一步得到強化。社交機器人對信息交流更強有力的影響能力,使人類用戶被誤導(dǎo),因此使社交媒體成為一個嚴(yán)重不對等的思想市場而非自由市場。社交媒體的這種變化,通過作用于人們的心理和預(yù)期進一步產(chǎn)生對線下社會的影響,包括經(jīng)濟、文化、社會觀念,而更重要的則是政治影響。
機器人言論的政治影響,導(dǎo)致社交機器人發(fā)展出了政治機器人這一特定形態(tài),其基于政治目的進入社交媒體,通過言論來形成政治影響。政治機器人通過干擾社會輿論,影響公共決策的議程安排,反映錯誤的社會群體分化,干擾競爭性選舉,制造社會矛盾乃至群體對立。由于網(wǎng)絡(luò)的全球性,這也成為一個國際政治問題,成為國家間信息戰(zhàn)的一種形式。
對我國而言,國際政治問題更為突出,對社交機器人的重視,關(guān)鍵點不是對言論自由和民主的損害,而是對國家安全與主權(quán)的挑戰(zhàn)。而對此采取的規(guī)制手段,其正當(dāng)性依據(jù)和目標(biāo)首先也立足于國家安全視角。因此,對社交機器人的規(guī)制,需要從總體國家安全觀的視角來加以思考。
從這一視角出發(fā),不能只依賴于全球協(xié)同治理、平臺自治和用戶個人的算法素養(yǎng)來遏制社交機器人的負面影響,而是需要公權(quán)力更多發(fā)揮作用。公權(quán)力機構(gòu)要通過技術(shù)手段追蹤社交機器人幕后的控制者加以規(guī)制,也要加強對個人數(shù)據(jù)跨境流動的保護和對跨平臺cookie的規(guī)制來改變信息戰(zhàn)攻守態(tài)勢,同時要求自身的算法素養(yǎng)提升,能夠運用總體國家安全觀來全面認識網(wǎng)絡(luò)言論,增強對輿情的認知能力,結(jié)合對傳統(tǒng)媒體的規(guī)制來統(tǒng)籌線上與線下治理。總而言之,本文強調(diào)的是觀察視角的更新。
國家安全論文：大數(shù)據(jù)時代國家安全面臨的挑戰(zhàn)及對策
對言論自由的理解,需要動態(tài)地放在社會歷史語境中,關(guān)注言論作為一種信息如何在社會中發(fā)揮作用,因此又如何受到信息的生產(chǎn)與傳遞的技術(shù)革命的影響。從人類的信息處理能力出發(fā),不同的信息數(shù)量級也要求不同的制度。形成于農(nóng)業(yè)社會的人類認知習(xí)慣,難以應(yīng)對信息社會中的信息過載,這就為各種操控言論并進而影響社會的手段提供了前提。經(jīng)典的言論自由理論,正如布蘭代斯大法官(LouisDembitzBrandeis)所指出的那樣,認為可以通過更多言論而不是沉默來解決言論中的危險,但由于當(dāng)下公眾面對的信息的數(shù)量和速度都和此前的社會有了根本差異,因此已經(jīng)很難以信息流動的多樣性來解決信息扭曲,思想自由市場的隱喻在現(xiàn)代信息技術(shù)的環(huán)境中已經(jīng)失效�！�90〕
如果仍然從言論自由的傳統(tǒng)觀念來理解被機器人重塑的言論生態(tài),那么就無法有效回應(yīng)新的挑戰(zhàn),可能會面臨一系列負面的社會與政治后果,甚至可能是對國家安全的嚴(yán)重威脅。正視社交機器人的出現(xiàn),重視機器人言論對言論自由的挑戰(zhàn),并且從總體國家安全觀思考對策,才能更好應(yīng)對人工智能影響下的互聯(lián)網(wǎng),整體上實現(xiàn)數(shù)字社會的治理。
作者：李晟
轉(zhuǎn)載請注明來自發(fā)表學(xué)術(shù)論文網(wǎng)：http:///dzlw/29792.html
