國家安全視角下的社交機(jī)器人言論自由的新挑戰(zhàn)

　　摘要網(wǎng)絡(luò)與人工智能技術(shù)的發(fā)展,以及流量經(jīng)濟(jì)的運(yùn)行機(jī)制,導(dǎo)致社交媒體中出現(xiàn)社交機(jī)器人。社交機(jī)器人的興起,并不一定傳播假新聞,也可能在不涉及“真/假”問題的意見表達(dá)方面體現(xiàn)出其顯著影響。通過社交機(jī)器人發(fā)表的言論,網(wǎng)絡(luò)與現(xiàn)實(shí)中對意見的認(rèn)識都會受到干擾,并且可能產(chǎn)生作用于物理空間的社會后果,從而形成對言論自由的挑戰(zhàn)。這種挑戰(zhàn),更突出體現(xiàn)于試圖影響政治的政治機(jī)器人言論,由于國際政治領(lǐng)域的“信息戰(zhàn)”而成為國家安全問題。因此,對人工智能語境下社交媒體中的社交機(jī)器人言論,應(yīng)當(dāng)在總體國家安全觀指引下加以重視和規(guī)制,并在此基礎(chǔ)上更新理解言論自由的理論思維。

　　關(guān)鍵詞社交媒體算法社交機(jī)器人政治機(jī)器人言論自由

　　引言:流量支配的言論在當(dāng)下這個信息爆炸的時代,所有人的注意力不可避免被具有流量的個人或事件所吸引,從而匯聚成為流量的一部分。流量經(jīng)濟(jì)的模式,在智能互聯(lián)網(wǎng)時代表現(xiàn)出強(qiáng)大的優(yōu)勢,構(gòu)成了一種全新的經(jīng)濟(jì)形態(tài)。〔1〕盡管公眾或許反感流量對自身注意力的支配,希望“流量為王”能夠向“內(nèi)容為王”轉(zhuǎn)變;〔2〕然而面對這一強(qiáng)大的潮流,仍然無法抵擋。

　　流量經(jīng)濟(jì)與智能互聯(lián)網(wǎng)緊密結(jié)合在一起,整體架構(gòu)決定了其具有的絕對優(yōu)勢。在網(wǎng)絡(luò)中被創(chuàng)造和分享的海量信息超出了人類的信息處理能力,造成信息的過載,因而人們更多依賴于一些具有信用品意義的符號來簡化自己的認(rèn)知負(fù)擔(dān),形成快捷的決策。因此,這些符號成為了流量的基礎(chǔ),聚焦了人們的注意力。而算法的分析能夠更精確地將部分符號推送給受眾,使其認(rèn)知的視野被有效的框定。同時,基于算法形成的排名,使公眾的認(rèn)知進(jìn)一步形成循環(huán),從而導(dǎo)致贏家通吃的局面。

　　處于“頭部”的符號因?yàn)槠淞髁恳?guī)模更容易被公眾關(guān)注到,而公眾對其的關(guān)注又會進(jìn)一步提升流量數(shù)據(jù),從而不斷循環(huán),使排名靠后者更難以獲得被認(rèn)識到的機(jī)會。平臺獲得消費(fèi)者的行為數(shù)據(jù),以此對算法進(jìn)行完善,再通過這樣的算法將消費(fèi)者更緊密地綁定在平臺上。由此,消費(fèi)者的行為數(shù)據(jù)成為了核心的生產(chǎn)資料,服務(wù)于掌握著平臺的資本。在這樣一個整體架構(gòu)中,流量經(jīng)濟(jì)得到了有效的運(yùn)行,個人也難以從中脫離出來。

　　處于這樣一個流量時代,無論是社會還是個人都不可避免地深受影響。在當(dāng)代智能互聯(lián)網(wǎng)場景中,公眾所發(fā)表的言論一旦成為大數(shù)據(jù)可以處理的信息,也就具有了資源的性質(zhì)。公共言論中討論到的人物與事件獲得了流量,再將流量轉(zhuǎn)化為影響力,而沒有得到討論和表達(dá)的聲音,則會逐漸銷聲匿跡,進(jìn)而失去對現(xiàn)實(shí)世界的影響力。因此,在經(jīng)典的法學(xué)視角中具有重要地位的言論自由,在新的時代背景下就會體現(xiàn)出新的問題形態(tài)與實(shí)踐挑戰(zhàn)。本文的問題意識由此引出,但本文并不試圖面面俱到地討論言論自由問題,而是關(guān)注其中一個具體問題,即在智能互聯(lián)網(wǎng)與流量經(jīng)濟(jì)的技術(shù)與政治經(jīng)濟(jì)邏輯推動下,人工智能如何重塑了言論的生成與運(yùn)作機(jī)制,并產(chǎn)生了怎樣的影響。這樣的研究視角,已經(jīng)被運(yùn)用于對“假新聞”的研究,形成了深刻的分析�！�3〕

　　而在新聞之外,公共言論包含了更大空間。因此,本文將超出新聞這一范疇,試圖關(guān)注與客觀事實(shí)“真/假”無涉的公共言論,提出主觀意見的“真/假”問題對言論自由的挑戰(zhàn)。更具體來說,這種主觀意見的“真/假”問題并不是指意見本身的不存在,而是指其通過人工智能的運(yùn)用而得到新的表達(dá)效果,在當(dāng)代互聯(lián)網(wǎng)中出現(xiàn)的社交機(jī)器人(socialbots),能夠基于算法的設(shè)計,以自動化的方式生成言論,并偽裝成人的言論進(jìn)入思想市場。社交機(jī)器人及其影響在政治學(xué)和傳播學(xué)領(lǐng)域中已經(jīng)得到了重視與討論,但法學(xué)界的研究尚處于空白狀態(tài)�！�4〕

　　圍繞這一問題,本文將首先討論信息技術(shù)變遷對網(wǎng)絡(luò)言論產(chǎn)生的影響,描述社交機(jī)器人出現(xiàn)的背景。文章第二部分描述社交機(jī)器人的運(yùn)作機(jī)制,指出機(jī)器人言論通過什么樣的技術(shù)條件與社會基礎(chǔ)產(chǎn)生影響。接下來,第三部分指出社交機(jī)器人改變了傳統(tǒng)意義上的思想市場,從而形成對于言論自由的挑戰(zhàn)。文章第四部分將進(jìn)一步分析機(jī)器人言論引發(fā)的政治后果,首先是對國內(nèi)民主政治造成的損害,進(jìn)而體現(xiàn)出對國家安全的威脅。第五部分從現(xiàn)象的描述轉(zhuǎn)入對策的分析,指出在中國語境中治理社交機(jī)器人,主要意義和關(guān)鍵難題都在于國際政治維度的信息戰(zhàn),因此需要在總體國家安全觀的指引下探討規(guī)制對策。

　　一、誰的言論:社交機(jī)器人的興起

　　互聯(lián)網(wǎng)興起以來,其中的言論問題就始終備受關(guān)注。早期互聯(lián)網(wǎng)被視為一個高度開放的言論空間,讓不同個體獲得便捷渠道暢所欲言。當(dāng)社交媒體成為重要的網(wǎng)絡(luò)平臺之后,廣大網(wǎng)民借助于社交媒體形成緊密鏈接來獲得各類信息并交流意見。在這樣的交流過程中,由于網(wǎng)絡(luò)中信息交流成本的大幅度降低,其中的言論表達(dá)較之于傳統(tǒng)社會中的線下交流產(chǎn)生了顯著變化。

　　其中被關(guān)注最多的現(xiàn)象,是網(wǎng)絡(luò)上的虛擬流瀑導(dǎo)致“群體極化”,幫助那些分散遙遠(yuǎn)的人發(fā)現(xiàn)持有相同意識形態(tài)的伙伴,強(qiáng)化自己的觀點(diǎn),使社會中形成更多持有極端意見的群體,而失去在共同經(jīng)驗(yàn)基礎(chǔ)上的社會粘性,從而造成社會分裂。〔5〕社交媒體平臺中的這種言論形態(tài),一度引發(fā)關(guān)于“謠言”和“辟謠”的熱烈爭議,也引發(fā)了相應(yīng)的理論討論�！�6〕隨著互聯(lián)網(wǎng)技術(shù)進(jìn)一步發(fā)展,智能互聯(lián)網(wǎng)時代中的算法推薦,對言論表達(dá)產(chǎn)生了進(jìn)一步的影響。在群體極化的基礎(chǔ)上,個體更進(jìn)一步被封閉在由自己選擇愿意看到的信息所構(gòu)成的“信息繭房”中�！�7〕

　　如果說在早期的社交媒體中,人們是基于自己主動的搜尋和交流形成了極化的群體,那么在智能互聯(lián)網(wǎng)時代的社交媒體中,人們實(shí)際上并非主動發(fā)現(xiàn)與自己同氣相求的群體,而是基于算法的個性化推薦被吸引到了一起。大數(shù)據(jù)分析使個體的興趣與偏好被更充分細(xì)致的分析,算法技術(shù)的發(fā)展形成了基于內(nèi)容和網(wǎng)絡(luò)互動的推送方式,基于個體行為數(shù)據(jù),算法對個體偏好進(jìn)行用戶畫像分析,從而對個體進(jìn)行更精準(zhǔn)的信息投送,始終以符合其偏好的信息進(jìn)行引導(dǎo)。于是“網(wǎng)絡(luò)共和國”被“標(biāo)簽共和國”所取代,標(biāo)簽共和國中的個人被算法推送的標(biāo)簽更有力地支配,并與其他人形成了信息和聲譽(yù)上更強(qiáng)的虛擬流瀑�！�8〕

　　無論討論群體極化還是信息繭房,雖然體現(xiàn)出算法介入的影響,但言論的主體并未改變,仍然是互聯(lián)網(wǎng)中的“網(wǎng)民”。盡管在早期互聯(lián)網(wǎng)中曾有一個著名的說法“沒有人知道網(wǎng)絡(luò)對面是不是一條狗”,但這只是強(qiáng)調(diào)網(wǎng)絡(luò)賬號同線下身份的分離,而不會懷疑言論是否來自人類。前人工智能時代,對互聯(lián)網(wǎng)的言論問題關(guān)注重點(diǎn)在于言論如何得到更為自由的表達(dá),以及表達(dá)的社會效果。而人工智能時代的信息技術(shù)演進(jìn),則在算法推薦的基礎(chǔ)上形成了社交機(jī)器人這種革命性的變革,導(dǎo)致了言論主體的改變,并進(jìn)一步改變了互聯(lián)網(wǎng)中的言論生態(tài)。

　　社交機(jī)器人作為一種自動化的軟件,能夠控制社交網(wǎng)絡(luò)中的特定賬號,以類似于控制賬號的人類的行為方式在社交網(wǎng)絡(luò)中活動,包括主動發(fā)布文本、照片或表情包形態(tài)的信息,轉(zhuǎn)發(fā)或評論其他賬號發(fā)布的信息,訪問其他賬號主頁以及點(diǎn)贊或申請?zhí)砑雍糜�。更重要的�?社交機(jī)器人隱秘行動,同那些直接表明是自動化程序的賬號區(qū)分開來,冒充為人類行為,利用對人類社交關(guān)系網(wǎng)的分析,潛伏在社交網(wǎng)絡(luò)中獲得有影響力的地位�！�9〕

　　社交機(jī)器人的這些行動,重點(diǎn)在于抓住眼球,強(qiáng)化了人類用戶與其發(fā)布的信息的接觸,突出的是流量與“用戶粘性”,而不是全面和審慎的信息獲取與鑒別。在早期的網(wǎng)絡(luò)言論生態(tài)中,“水軍”就被視為一種干擾力量,對人們造成誤導(dǎo),因而需要對其規(guī)制以保障網(wǎng)絡(luò)中的言論自由�！�10〕而社交機(jī)器人的興起,實(shí)際上就是“機(jī)器人水軍”取代了“人類水軍”。早期的機(jī)器人水軍技術(shù)水平較低,技術(shù)基礎(chǔ)是“群控系統(tǒng)”,即通過系統(tǒng)自動化控制集成技術(shù),把多個手機(jī)操作界面直接映射到電腦顯示器,實(shí)現(xiàn)由一臺電腦來控制幾十臺甚至上百臺手機(jī)的效果,在此基礎(chǔ)上通過批量模擬腳本來模擬許多賬號的行為�！�11〕

　　如果只能按照事先設(shè)定的言論進(jìn)行機(jī)械的重復(fù),完成簡單功能,就很容易被發(fā)現(xiàn),重復(fù)的言論也會被作為無效的信息被排除,難以影響人們的認(rèn)知。而社交機(jī)器人的自組織,意味集群個體不依賴某一操控主體對其進(jìn)行集中的組織管理,而依靠自身遵循一定的行為準(zhǔn)則,通過觀察其所處的環(huán)境,與臨近的目標(biāo)對象進(jìn)行局部交互,在整體上協(xié)同配合達(dá)成集群所需要的目標(biāo),因此操縱者不需要如同水軍的操縱者那樣事無巨細(xì)地進(jìn)行實(shí)時具體的指導(dǎo),而可以事先在宏觀上制定機(jī)器人個體的行為規(guī)則,讓其依賴人工智能自動運(yùn)行,涌現(xiàn)演化形成了所有個體相互配合的集群智能傳播模式,以達(dá)成所需的傳播效果�！�12〕早期的社交機(jī)器人非常幼稚,或是只能自動發(fā)布預(yù)先設(shè)定的文本,或是語無倫次因而毫無意義�！�13〕

　　因此,社交機(jī)器人的廣泛運(yùn)用,其技術(shù)基礎(chǔ)在于機(jī)器學(xué)習(xí)能力的提升,能夠使其表現(xiàn)出類似于人類用戶所控制的賬號的行為模式。其通過抓取人類聊天中的關(guān)鍵詞進(jìn)行學(xué)習(xí),理解語言背后所表達(dá)的意圖,并由此不斷改進(jìn)自身語言表達(dá)方式,與人類用戶在社交網(wǎng)絡(luò)中進(jìn)行實(shí)質(zhì)性互動。在人工智能不斷提升的過程中,除了對文本自然語言的理解,對圖像、表情等表達(dá)形式的理解和學(xué)習(xí)能力也在不斷提高。

　　社交機(jī)器人通過“情感計算”技術(shù)提升了互動能力,以及對人的共情能力和情緒表達(dá)能力。〔14〕通過這樣的技術(shù)手段,社交機(jī)器人所表達(dá)的觀點(diǎn)并非來自于事先擬就的文本,而是在交流語境中自動生成,更緊密地同話題聯(lián)系起來。而且,社交機(jī)器人還能夠識別出人類的社交關(guān)系圖譜,分析人類在社交網(wǎng)絡(luò)中的行為,設(shè)法同擁有大量關(guān)注對象的用戶建立起聯(lián)系,并利用共同好友關(guān)系繼續(xù)進(jìn)行擴(kuò)散�！�15〕

　　當(dāng)這樣的社交機(jī)器人活躍于社交網(wǎng)絡(luò)中時,就不僅僅是作為一個靜態(tài)數(shù)字的“僵尸粉”,而是能夠形成實(shí)際的互動。社交機(jī)器人通過諸多接口可以接入社交網(wǎng)絡(luò)中,簡單的驗(yàn)證碼并不能形成屏蔽,社交網(wǎng)絡(luò)對此的防御相當(dāng)脆弱。〔16〕雖然檢測程序不斷發(fā)展,試圖更好識別出偽裝成人類的社交機(jī)器人,但機(jī)器人也在改進(jìn)行為特征,使之更難以被檢測程序所發(fā)現(xiàn)。〔17〕由于社交機(jī)器人的設(shè)計本身就追求隱秘性,檢測程序的運(yùn)用并不能像過濾垃圾郵件那樣輕松地將其在社交網(wǎng)絡(luò)中排除掉。

　　一系列實(shí)證考察都顯示了社交機(jī)器人在互聯(lián)網(wǎng)已經(jīng)發(fā)展到一個較高的比例。2012年,Facebook的一份報告估計,所有賬戶中有5-6%是虛假或偽造的,這意味著大約有5000萬用戶是虛假的�！�18〕而研究者對推特中的社交機(jī)器人比例的估計則更高,系統(tǒng)檢測分類顯示53.2%的用戶是人類,36.2%是人機(jī)協(xié)同(cyborg),10.5%是機(jī)器人�！�19〕如果考慮到社交機(jī)器人完全可能比人類在社交網(wǎng)絡(luò)中更為積極地發(fā)布信息,那么來源于社交機(jī)器人的信息比例會比用戶數(shù)據(jù)的比例還要高得多,例如由DistilNetworks公司所發(fā)布的《2018惡意機(jī)器流量報告》指出,2017年42.2%的互聯(lián)網(wǎng)流量由機(jī)器產(chǎn)生�！�20〕

　　二、如何發(fā)言:社交機(jī)器人的運(yùn)作邏輯

　　社交機(jī)器人的偽裝性,使其表現(xiàn)為像人類用戶一樣正常參與社交網(wǎng)絡(luò)活動:表達(dá)觀點(diǎn)、發(fā)布信息、關(guān)注其他用戶。當(dāng)大量的社交機(jī)器人以這樣的方式在網(wǎng)絡(luò)中活動時,就構(gòu)成了“僵尸網(wǎng)絡(luò)”(botnet)�！�21〕這樣的僵尸網(wǎng)絡(luò)沒有侵入人類用戶賬號或竊取隱私信息,也不同于傳統(tǒng)的垃圾郵件程序造成的侵?jǐn)_,而是試圖表現(xiàn)為具有實(shí)質(zhì)意義的社交活動,活動形態(tài)與人類高度相似。社交機(jī)器人只是在表達(dá)言論而已,只是這種言論的主體并非人類,而是人工智能。而基于這樣的特性,社交機(jī)器人的挑戰(zhàn)就更加凸顯出來。

　　我們必須正視新的言論生態(tài):社交機(jī)器人不僅僅在轉(zhuǎn)發(fā)新聞,其發(fā)表的觀點(diǎn)是言論,轉(zhuǎn)發(fā)和點(diǎn)贊也是言論,網(wǎng)絡(luò)空間中存在著大量的機(jī)器人言論。有學(xué)者指出,社交媒體的生態(tài)正在從完全由“人”主導(dǎo)變?yōu)?ldquo;人+社交機(jī)器人”的共生狀態(tài),社交機(jī)器人已經(jīng)成為社交媒體的一個有機(jī)組成部分,社交機(jī)器人產(chǎn)品的不斷迭代逐漸消解了人類用戶在社交媒體中的唯一主體地位,社交機(jī)器人也逐漸成為信息內(nèi)容生產(chǎn)、觀念傳播和意義表達(dá)的重要參與者,社交媒體成為“人”與“社交機(jī)器人”的共生空間�！�22〕

　　如果從技術(shù)上很難清除所有的社交機(jī)器人,回到其出現(xiàn)之前的網(wǎng)絡(luò)空間的話,那么,人們就不能裝作看不見社交機(jī)器人的影響,而必須在這樣的共生狀態(tài)下理解社交網(wǎng)絡(luò),理解網(wǎng)絡(luò)空間的言論自由。當(dāng)言論的主體并非人類時,就不能運(yùn)用對人類的言論自由觀念與制度去加以回應(yīng)。而且,在社交機(jī)器人與人類共生的網(wǎng)絡(luò)空間中,社交機(jī)器人試圖模仿人類行為,但目標(biāo)并不局限于模仿人類,而是要改變?nèi)祟愋袨椤！?3〕由于社交網(wǎng)絡(luò)已經(jīng)成為人類社會的重要組成部分,這種大規(guī)模出現(xiàn)的新形態(tài)言論的作用不局限于虛擬空間,而是也影響到線下的物理世界,形成具有社會意義的后果。

　　當(dāng)人類行為確實(shí)可能被改變時,這一問題的法學(xué)意義也就更為突出,必須加以高度關(guān)注。不同于計算機(jī)科學(xué)對社交機(jī)器人的研究更關(guān)心什么樣的言論,也不同于社會學(xué)的研究更關(guān)心人機(jī)關(guān)系,法學(xué)的研究必須重視這種社會后果。 社交機(jī)器人在網(wǎng)絡(luò)中的使用,不是個體性的,而是大規(guī)模的,通過相互分工合作結(jié)合成為機(jī)器人組成的僵尸網(wǎng)絡(luò)。也只有通過大規(guī)模的使用,才能形成一個復(fù)雜系統(tǒng)的“涌現(xiàn)行為”、形成其自組織,體現(xiàn)出更高的智能�！�24〕

　　也只有在達(dá)到一定規(guī)模的情形下,社交機(jī)器人問題才有必要進(jìn)入法學(xué)的視野。對社交機(jī)器人言論所造成的社會后果,應(yīng)當(dāng)重點(diǎn)關(guān)注作為大規(guī)模群體的社交機(jī)器人的協(xié)同使用所產(chǎn)生的效果,而不是只考察作為個體的言論,同時也應(yīng)當(dāng)注意到協(xié)同使用大規(guī)模社交機(jī)器人的實(shí)際控制者。

　　當(dāng)社交機(jī)器人被大規(guī)模協(xié)同使用時,也就在社交網(wǎng)絡(luò)中增加了大量的言論,顯著超出人類用戶言論的規(guī)模。當(dāng)社交機(jī)器人能夠以類似于人的行為模式去進(jìn)行互動時,這些言論生成的信息會進(jìn)一步強(qiáng)化人們在網(wǎng)絡(luò)空間中的信息過載,因而導(dǎo)致對信息處理能力的干擾,并且影響到判斷和決策。而且,機(jī)器人言論相對人類并不僅具有數(shù)量上的影響,信息效率也至關(guān)重要。

　　當(dāng)一篇文章首次在社交媒體上發(fā)布的最初幾秒,機(jī)器人可能比之后更大規(guī)模地使用,這種早期干預(yù)讓許多用戶更容易看到,增加了文章被病毒式傳播的機(jī)會�！�25〕但對人類用戶而言,其往往難以在第一時間注意到新的文章或標(biāo)簽,也無法一天24小時在線,難以進(jìn)行病毒式傳播。在病毒式傳播機(jī)制中,社交機(jī)器人作為社會傳染的傳染源,通過按需改變社交網(wǎng)絡(luò)的動態(tài)結(jié)構(gòu),能夠掌控目標(biāo)受眾接觸傳染源的渠道,并且比人類之間的社會傳染具有更高的效率,形成了從社會傳染到社會擴(kuò)散的高效驅(qū)動機(jī)制�！�26〕因此,當(dāng)社交機(jī)器人被廣泛運(yùn)用之后,人們在網(wǎng)絡(luò)空間中所看到的言論,大量來自于機(jī)器人。而且,社交機(jī)器人往往被用于傳播那些低可信度的言論。〔27〕

　　對這些低可信度的言論作為“謠言”或“假新聞”的討論已經(jīng)較為充分,但是,不涉及真假的言論,同樣也會造成相應(yīng)的社會后果。社交機(jī)器人的言論所造成的干擾,最直接的影響就是“社會流瀑效應(yīng)”,即缺乏足夠信息處理能力的人們,因?yàn)槟承┬畔⑾鄬ζ渌�信息更高�?qiáng)度地出現(xiàn),因而選擇相信這些信息�！�28〕這種社會流瀑效應(yīng)不僅僅針對關(guān)于事實(shí)的新聞,也會涉及對觀點(diǎn)的取舍,并無前見、未形成堅定立場的中立公眾,因?yàn)槟承┯^點(diǎn)似乎被更多人表達(dá)而作出選擇接受這些觀點(diǎn)。

　　由于人類認(rèn)知固有的局限性,“三人成虎”的社會流瀑也并非新鮮現(xiàn)象。但當(dāng)機(jī)器人言論這一變量加入之后,這一現(xiàn)象發(fā)生了進(jìn)一步的變化:機(jī)器人言論能夠更有效率的增強(qiáng)人們接收到信息的強(qiáng)度,使人們更容易因?yàn)榭吹侥承┬畔⒌姆磸?fù)出現(xiàn)而傾向于接受。人們過去是基于更多人表達(dá)出某種言論而被社會流瀑所影響,但當(dāng)言論可能出自機(jī)器人時,人們更多看到的言論其實(shí)并非更普遍的言論,因而受到誤導(dǎo),進(jìn)入到原本不存在的社會流瀑中。

　　三、思想市場的異化:社交機(jī)器人對言論自由的挑戰(zhàn)

　　從對人類信息處理能力的干擾出發(fā),社交機(jī)器人有力地強(qiáng)化了某些信息,同時也弱化了另一些信息。從客觀事實(shí)的角度來說,這些信息可能都是真實(shí)的,并不能將其判定為謠言。但即使是真實(shí)的信息,通過社交機(jī)器人的表達(dá),因?yàn)槠湎鄬θ祟愌哉摼哂写笠?guī)模、高效率、全天候、自組織等一系列優(yōu)勢,從而挑戰(zhàn)了人類的言論自由。真實(shí)的人類言論因?yàn)楸缓雎曰螂[藏而無法得到有效的傳播,這種現(xiàn)象顛覆了思想自由市場這一理想形態(tài)。密爾(JohnStuartMill)指出,正是對自由言論和多樣性意見的保護(hù)使真理得以浮現(xiàn)出來,并獲得自我矯正功能,被壓制的言論可能是真理,即使不是真理,也可能包括了真理的成分或者通過交鋒而磨礪真理。〔33〕

　　當(dāng)人們普遍接受真理是相對的并且不斷發(fā)展這一觀念,也就自然而然接受了密爾對言論自由價值的這一論證,認(rèn)為自由進(jìn)行表達(dá)和討論是接近與發(fā)展真理的重要保障�；裟匪�(OliverWendellHolmes)則進(jìn)一步提出了著名的“思想的自由市場”的比喻。〔34〕習(xí)慣了市場經(jīng)濟(jì)的人們形象地意識到思想的自由競爭類似于實(shí)體商品市場上的自由競爭,市場的自由競爭最終會實(shí)現(xiàn)優(yōu)勝劣汰,因此,思想的優(yōu)劣最終是由消費(fèi)者的行動作出決定而非由單一的權(quán)威事先確定的。自由的思想市場可以與商品市場進(jìn)行類比,兩個市場之間沒有本質(zhì)性的差別。〔35〕

　　而在網(wǎng)絡(luò)時代,這個市場的“基礎(chǔ)設(shè)施”已經(jīng)發(fā)生了根本變化�！�36〕如果在這個市場上,競爭的對手并非普通人,而是大規(guī)模有組織的社交機(jī)器人時,這就成為了嚴(yán)重不對等的競爭。普通人的言論自由面對社交機(jī)器人,處于壓倒性的劣勢地位。盡管人類的思想市場從來也不是平等的自由競爭的理想狀態(tài),而是如同商品的自由市場的異化一樣,更好的商品在異化的市場中難以“優(yōu)勝”,而劣質(zhì)者也未必會“劣汰”�！�37〕

　　但社交機(jī)器人進(jìn)入到這種競爭中來,就如同熱兵器對冷兵器的代差,造成了言論生態(tài)的根本性改變。社交機(jī)器人通過在網(wǎng)絡(luò)空間中對言論生態(tài)的改變,進(jìn)一步影響線下社會。人類社會中許多行為決策都依賴于社會互動,對他人會如何決策所做出的預(yù)測決定個人決策,而這種預(yù)測又來自于他人表達(dá)的言論所提供的信息。在這種情況下,社交機(jī)器人言論就可能導(dǎo)致對他人的錯誤預(yù)測,進(jìn)而形成錯誤決策,通過自我實(shí)現(xiàn)的預(yù)言,對人類預(yù)期和決策產(chǎn)生影響。

　　例如,在高度依賴于預(yù)期的金融市場當(dāng)中,機(jī)器人言論使投資者認(rèn)為某一家公司的股票確實(shí)得到了許多人的關(guān)注,從而大量交易該股票,而這就進(jìn)一步驗(yàn)證了預(yù)言,使市場朝著機(jī)器人的控制者所期望的方向波動�！�38〕當(dāng)然,類似的這種預(yù)期也會在其他市場中體現(xiàn)出來,例如市場營銷中對社交機(jī)器人的使用,以機(jī)器人言論偽裝為消費(fèi)者對商品或服務(wù)的評價,消費(fèi)者對品牌的認(rèn)知也可能以這種方式被掌控,從而影響市場格局�！�39〕而娛樂市場則是這種操縱的更極端體現(xiàn),無論是“黑”還是“粉”,機(jī)器人言論都在制造流量,而流量決定了市場資源的分配,雖然許多消費(fèi)者并不認(rèn)同流量明星以及他們的作品,但在這樣的市場中卻別無選擇,離開了流量明星的作品可能根本就無法進(jìn)入市場。

　　四、從自由到安全:社交機(jī)器人的深層挑戰(zhàn)

　　由于上述影響,社交機(jī)器人的運(yùn)用就很容易超出商業(yè)范疇,不僅僅被用于制造流量和吸引用戶,還被用于政治目標(biāo)。社交機(jī)器人傳播的低可信度信息,很大一部分就是政治信息。〔40〕因此,社交機(jī)器人又發(fā)展出了“政治機(jī)器人”(politicalbots)這一特定分類,在社交機(jī)器人中占據(jù)了很大的比例�！�41〕

　　政治機(jī)器人的運(yùn)用機(jī)制與一般的社交機(jī)器人相同,但用途更為集中于政治領(lǐng)域。政治機(jī)器人并不只發(fā)表政治言論,而是通過類似于人類用戶的全面社交活動,形成政治影響。對政治機(jī)器人的關(guān)注始于2010年的美國中期選舉�！�42〕如同流量明星需要粉絲一樣,政治競選中的明星也同樣需要,而政治機(jī)器人首先就起到了這樣的功能,諸如羅姆尼(WillardMittRomney)、金里奇(NewtGingrich)、奧巴馬(BarackHusseinObama)等人都被質(zhì)疑通過政治機(jī)器人來制造虛假粉絲獲得人氣�！�43〕在此之后,政治機(jī)器人的作用日益突出,2016年的美國總統(tǒng)大選使其更受到前所未有的關(guān)注,在選舉中政治機(jī)器人的運(yùn)用導(dǎo)致了基于惡意目標(biāo)的影響力再分配,強(qiáng)化了社會中的群體極化,也助長了假新聞的流行。〔44〕

　　以政治和法律為目標(biāo)的機(jī)器人成為了政治戰(zhàn)略與通訊技術(shù)領(lǐng)域最流行的創(chuàng)新趨勢,在社交媒體中廣泛且活躍存在,政治機(jī)器人在美國的政治溝通中占據(jù)的角色雖然微小,但卻具有戰(zhàn)略意義。〔45〕政治機(jī)器人作用于競爭性選舉,不僅局限于美國,而是形成了更一般性的運(yùn)作機(jī)制�！�46〕在競爭性選舉之外,政治機(jī)器人的影響也不容忽視,不僅通過虛假的人氣或假新聞干預(yù)選舉,更通過偽裝的人類觀點(diǎn)影響政治決策。同一般的社會話題相比,政治話題本身在社會中就具有更高的爭議性,有分歧的公眾更容易形成激進(jìn)的對峙,也更容易形成抱團(tuán)取暖的極化群體,因而體現(xiàn)出社交媒體更顯著的影響。盡管其結(jié)果好壞不一,但社交媒體已經(jīng)成為了許多政治運(yùn)動的協(xié)調(diào)工具�！�47〕

　　越是極端和激進(jìn)的觀點(diǎn)更容易在社交媒體中吸引眼球,并且強(qiáng)化用戶的情感參與、加強(qiáng)互動,達(dá)成群體極化。相對于“理中客”的意見,“噴子”的聲音更容易在社交媒體中被放大。因此,政治機(jī)器人更有效的手段并非傳遞純粹虛假的新聞,而是去強(qiáng)化某些觀點(diǎn)的傳播。政治機(jī)器人表達(dá)出來的觀點(diǎn)可能本身是真實(shí)并合法的,但被放大了。當(dāng)分裂的政治信息被強(qiáng)化時,既可能作為一種有組織的騷擾迫使人們自我審查,也可能作為煽動信息而引發(fā)更情緒化和更極端的意見�！�48〕通過政治機(jī)器人的參與,某些政治意見被高強(qiáng)度地在互聯(lián)網(wǎng)中展現(xiàn)出來,從而導(dǎo)致關(guān)于政治議題的網(wǎng)絡(luò)輿論被扭曲,使公眾與政治家都無法真實(shí)把握社會中的立場分化和不同立場的強(qiáng)弱比較。例如,在英國脫歐公投前后,推特上有一系列機(jī)器人高度活躍,之后又快速消失,通過機(jī)器人網(wǎng)絡(luò)迅速生成了社會流瀑,其轉(zhuǎn)發(fā)的并非嚴(yán)格意義上的假新聞,而是傾向性非常明顯的觀點(diǎn)�！�49〕

　　在互聯(lián)網(wǎng)導(dǎo)致政治參與更加普遍化和扁平化的背景下,草根的力量似乎變得更為強(qiáng)大,但政治機(jī)器人的運(yùn)用使得人們不知道支持者究竟真是草根還是機(jī)器人,無法真實(shí)觀察什么是草根的聲音、誰代表著草根的力量,因此導(dǎo)致了對民主的破壞�！�50〕在這樣的運(yùn)作過程中,政治團(tuán)體通過將政治機(jī)器人打造成虛擬的意見領(lǐng)袖,與民眾建立起更為穩(wěn)固的社交關(guān)系,借助算法的機(jī)器手段來實(shí)現(xiàn)政治傳播目的,“真人”意見領(lǐng)袖需要一定培育時間,不可復(fù)制而且其傳播效果還會受到個體行為的影響,但“機(jī)器”意見領(lǐng)袖可以實(shí)現(xiàn)量產(chǎn),而且其形象不會受到現(xiàn)實(shí)生活影響,更容易塑造完美的意見領(lǐng)袖形象。

　　五、中國語境的規(guī)制:總體國家安全觀的視角

　　基于對社交機(jī)器人的分析可發(fā)現(xiàn),即使其言論并不傳播客觀虛假的信息,但其在社交網(wǎng)絡(luò)中造成的負(fù)面影響仍然不容忽視,尤其是政治機(jī)器人,如誤導(dǎo)公共決策,扭曲民主過程,擾亂社會輿論,加強(qiáng)群體極化,甚至直接意味著一種新型戰(zhàn)爭手段發(fā)起的攻擊。隨著信息技術(shù)的不斷發(fā)展,社交機(jī)器人不會被徹底消滅,回到之前的狀態(tài)。社交媒體生態(tài)系統(tǒng)的未來可能已經(jīng)指明了這樣一個方向:機(jī)器與機(jī)器之間的互動成為常態(tài),人類將走向一個主要由機(jī)器人組成的世界�！�66〕

　　而且,由于機(jī)器人言論本身具有的合法特性,利用和人類用戶同樣的網(wǎng)絡(luò)架構(gòu)發(fā)揮作用,因而無法僅僅通過網(wǎng)絡(luò)安全的技術(shù)手段加以處理。更好的網(wǎng)絡(luò)安全有助于降低對手發(fā)動網(wǎng)絡(luò)戰(zhàn)攻擊的能力,但卻無助于降低對手發(fā)起信息戰(zhàn)攻擊的能力�！�67〕因此,需要形成的是對社交機(jī)器人的規(guī)制,在其仍然被使用的前提下盡可能削弱負(fù)面影響。

　　六、結(jié)語

　　社交機(jī)器人并非獨(dú)立存在的現(xiàn)象,而是同各類人工智能技術(shù)結(jié)合,立足于社交媒體的全網(wǎng)絡(luò)覆蓋和流量經(jīng)濟(jì)的基本市場結(jié)構(gòu)發(fā)揮作用。而在目前的法學(xué)研究中,談起“機(jī)器人”更多還是實(shí)體化的想象,卻忽略了這種更真實(shí)的存在。然而,較之于討論機(jī)器人的民事主體地位或是刑事責(zé)任能力,從國家安全的視角思考社交機(jī)器人對言論自由的影響,則是更重要的問題。

　　不同于關(guān)注機(jī)器人傳播虛假事實(shí)的研究,本文更進(jìn)一步討論了機(jī)器人言論中包含的不涉及客觀真?zhèn)闻袛嗟闹饔^意見所產(chǎn)生的影響,并指出從國家安全的視角來看,對這種形式上符合言論自由的言論應(yīng)當(dāng)加以規(guī)制。在社交媒體深刻嵌入公眾生活的背景下,社交機(jī)器人興起,通過自動化程序掌控賬號,模仿人類用戶的行為模式,以發(fā)言、轉(zhuǎn)發(fā)、點(diǎn)贊、評論、添加好友、發(fā)布狀態(tài)等一系列行動共同構(gòu)成“言論”。

　　人工智能技術(shù)的發(fā)展,使社交機(jī)器人能夠更好隱藏自己的身份,突破平臺的過濾,也不容易被普通用戶識別,從而使其言論在社交媒體中大量傳播,形成人類用戶與社交機(jī)器人共存的言論生態(tài)�；�于這種共存的背景,某些信息被機(jī)器人更多傳播,某些信息則相應(yīng)被淡化了,導(dǎo)致社交媒體中的社會流瀑、群體極化等效應(yīng)更進(jìn)一步得到強(qiáng)化。社交機(jī)器人對信息交流更強(qiáng)有力的影響能力,使人類用戶被誤導(dǎo),因此使社交媒體成為一個嚴(yán)重不對等的思想市場而非自由市場。社交媒體的這種變化,通過作用于人們的心理和預(yù)期進(jìn)一步產(chǎn)生對線下社會的影響,包括經(jīng)濟(jì)、文化、社會觀念,而更重要的則是政治影響。

　　機(jī)器人言論的政治影響,導(dǎo)致社交機(jī)器人發(fā)展出了政治機(jī)器人這一特定形態(tài),其基于政治目的進(jìn)入社交媒體,通過言論來形成政治影響。政治機(jī)器人通過干擾社會輿論,影響公共決策的議程安排,反映錯誤的社會群體分化,干擾競爭性選舉,制造社會矛盾乃至群體對立。由于網(wǎng)絡(luò)的全球性,這也成為一個國際政治問題,成為國家間信息戰(zhàn)的一種形式。

　　對我國而言,國際政治問題更為突出,對社交機(jī)器人的重視,關(guān)鍵點(diǎn)不是對言論自由和民主的損害,而是對國家安全與主權(quán)的挑戰(zhàn)。而對此采取的規(guī)制手段,其正當(dāng)性依據(jù)和目標(biāo)首先也立足于國家安全視角。因此,對社交機(jī)器人的規(guī)制,需要從總體國家安全觀的視角來加以思考。

　　從這一視角出發(fā),不能只依賴于全球協(xié)同治理、平臺自治和用戶個人的算法素養(yǎng)來遏制社交機(jī)器人的負(fù)面影響,而是需要公權(quán)力更多發(fā)揮作用。公權(quán)力機(jī)構(gòu)要通過技術(shù)手段追蹤社交機(jī)器人幕后的控制者加以規(guī)制,也要加強(qiáng)對個人數(shù)據(jù)跨境流動的保護(hù)和對跨平臺cookie的規(guī)制來改變信息戰(zhàn)攻守態(tài)勢,同時要求自身的算法素養(yǎng)提升,能夠運(yùn)用總體國家安全觀來全面認(rèn)識網(wǎng)絡(luò)言論,增強(qiáng)對輿情的認(rèn)知能力,結(jié)合對傳統(tǒng)媒體的規(guī)制來統(tǒng)籌線上與線下治理�？偠�言之,本文強(qiáng)調(diào)的是觀察視角的更新。

　　國家安全論文：大數(shù)據(jù)時代國家安全面臨的挑戰(zhàn)及對策

　　對言論自由的理解,需要動態(tài)地放在社會歷史語境中,關(guān)注言論作為一種信息如何在社會中發(fā)揮作用,因此又如何受到信息的生產(chǎn)與傳遞的技術(shù)革命的影響。從人類的信息處理能力出發(fā),不同的信息數(shù)量級也要求不同的制度。形成于農(nóng)業(yè)社會的人類認(rèn)知習(xí)慣,難以應(yīng)對信息社會中的信息過載,這就為各種操控言論并進(jìn)而影響社會的手段提供了前提。經(jīng)典的言論自由理論,正如布蘭代斯大法官(LouisDembitzBrandeis)所指出的那樣,認(rèn)為可以通過更多言論而不是沉默來解決言論中的危險,但由于當(dāng)下公眾面對的信息的數(shù)量和速度都和此前的社會有了根本差異,因此已經(jīng)很難以信息流動的多樣性來解決信息扭曲,思想自由市場的隱喻在現(xiàn)代信息技術(shù)的環(huán)境中已經(jīng)失效�！�90〕

　　如果仍然從言論自由的傳統(tǒng)觀念來理解被機(jī)器人重塑的言論生態(tài),那么就無法有效回應(yīng)新的挑戰(zhàn),可能會面臨一系列負(fù)面的社會與政治后果,甚至可能是對國家安全的嚴(yán)重威脅。正視社交機(jī)器人的出現(xiàn),重視機(jī)器人言論對言論自由的挑戰(zhàn),并且從總體國家安全觀思考對策,才能更好應(yīng)對人工智能影響下的互聯(lián)網(wǎng),整體上實(shí)現(xiàn)數(shù)字社會的治理。

　　作者：李晟

轉(zhuǎn)載請注明來自發(fā)表學(xué)術(shù)論文網(wǎng)：http:///dzlw/29792.html