論算法與法律行為的關(guān)系制度影響與法律回應(yīng)

　　摘要：大數(shù)據(jù)和人工智能的發(fā)展深刻地影響著我們的社會生活，改變了我們的生產(chǎn)和生活方式，也深刻地影響了社會的方方面面。我們正從互聯(lián)網(wǎng)社會走向算法社會，算法通過不同形式，不同程度地介入合同、侵權(quán)行為、公司治理、保險合同、證券交易等整個私法領(lǐng)域。在人工智能場景的算法社會中，形成了算法消費者群體。討論算法如何影響法律行為效力的前提，關(guān)鍵在于算法是否會影響行為人的意思表示。算法是針對數(shù)據(jù)的一系列程序邏輯，該程序邏輯是在自然語言基礎(chǔ)上建構(gòu)起來的。算法具有一定的學習能力，可以通過大數(shù)據(jù)不斷地進行深度學習，但這并不是認知層面的學習，更不是指的人類學習。算法的本相是一種基于布爾代數(shù)的程序性“彈珠迷宮游戲”，其不符合民法中意思表示結(jié)構(gòu)。通過自動化決策的算法系統(tǒng)作出的意思表示，仍是人類意思表示的延伸。算法使用者基于大數(shù)據(jù)和算法鴻溝形成了算法權(quán)力，將對意思表示制度造成影響。算法不會對法律行為效力制度造成根本性挑戰(zhàn)，但在錯誤、欺詐制度的具體構(gòu)成要件中需要進行重新解釋。在解釋時，需要區(qū)分算法的使用人是表意方還是相對人的不同場景進行討論。在算法社會中，消費者向算法消費者演進，并作為一種消費者的新類型。為回應(yīng)現(xiàn)有私法框架對于算法消費者保護不足，應(yīng)當調(diào)整《保險法》中如實告知義務(wù)的模式，《消費者權(quán)益保護法》需重塑經(jīng)營者與消費者之間的權(quán)利義務(wù);在商事金融領(lǐng)域，利用算法的金融機構(gòu)將被賦予更高的注意義務(wù)。算法消費者保護應(yīng)當考慮多維度的因素，一方面從個人信息保護體系和將信息信義義務(wù)作為企業(yè)社會責任等方面進行;另一方面通過構(gòu)建算法透明度制度、算法備案制、算法倫理等規(guī)制算法的全方位監(jiān)督體系。通過法律規(guī)制算法的實質(zhì)，是監(jiān)管算法使用人(如算法型企業(yè)或平臺)在網(wǎng)絡(luò)交易或經(jīng)營過程中如何規(guī)范與合理地使用算法。當前關(guān)于人工智能的研究，應(yīng)回歸學術(shù)理性，避免盲目跟風式的玄幻主義法學。算法時代中算法消費者保護的核心與關(guān)鍵在于，如何在個人信息保護、規(guī)制算法和算法企業(yè)發(fā)展之間的尋求利益平衡點。

　　關(guān)鍵詞：人工智能;法律行為;算法消費者;信息信義義務(wù);算法規(guī)制

　　一、問題的提出：人工智能時代的疑問

　　自2016年AlphaGo接連戰(zhàn)勝人類圍棋高手之后，全世界刮起了一陣“人工智能”風潮，人工智能(AI)在各個行業(yè)、產(chǎn)業(yè)和環(huán)節(jié)得以運用廣泛。甚至有學者斷言，因為大數(shù)據(jù)和人工智能的發(fā)展深刻地影響著我們的社會生活，改變了我們的生產(chǎn)和生活方式，也深刻地影響了社會的方方面面，我們已經(jīng)進入人工智能的新時代[1]。但是，人工智能時代也可能面臨許多隱憂，例如在當今生活中層出不窮的“大數(shù)據(jù)殺熟”、網(wǎng)絡(luò)評分數(shù)據(jù)抄襲、廣告精準推薦、無人駕駛等新問題。

　　目前人工智能處于何種階段，值得思考。在探討人工智能法律關(guān)系產(chǎn)生影響或挑戰(zhàn)時，必須掌握人工智能的核心與本質(zhì)。當前的人工智能本質(zhì)是算法和數(shù)據(jù)，因為“數(shù)據(jù)+算法”被視為人工智能技術(shù)開發(fā)的核心[2]，也有學者指出，人工智能是能使計算機學習、分析和決策的算法[3]。此時，我們需要以算法為分析著力點回歸到法律框架下進行討論。例如，在私法領(lǐng)域中算法與法律行為關(guān)系如何?在此前提下，我國現(xiàn)行私法制度應(yīng)該如何對算法造成的制度影響進行法律回應(yīng)?

　　二、算法在私法領(lǐng)域中的作用及其本質(zhì)

　　(一)私法領(lǐng)域下算法的應(yīng)用

　　算法在當前網(wǎng)絡(luò)環(huán)境下運用非常普遍，如網(wǎng)絡(luò)服務(wù)商通過算法收集用戶在臉書、推特、微博或知乎等社交媒體網(wǎng)站，或文本博客和其他在線購物網(wǎng)站上留下的網(wǎng)絡(luò)瀏覽痕跡等數(shù)據(jù)，以預(yù)測消費者的偏好，進行精準廣告推送和推薦個性化產(chǎn)品，甚至實施誘導消費的行為。通常情況下，網(wǎng)絡(luò)服務(wù)商等企業(yè)利用算法，為用戶消費者提供上述“個人定制”交易。有的算法幫助消費者做出市場交易決策。也還有的算法可以自動識別需求，搜索最佳購買決策并執(zhí)行交易[4]�；�于算法在私法領(lǐng)域的廣泛應(yīng)用，甚至出現(xiàn)了所謂的“算法合同”(AlgorithmContract)。除了上述的一般民事交易外，算法在商事領(lǐng)域也發(fā)揮著重要作用。

　　首先，算法逐漸參與公司決策管理過程。早在2014年5月，香港創(chuàng)投公司(DKV)任命了一套名為Vital的算法作為董事會成員，Vital會根據(jù)候選公司的財務(wù)狀況、臨床試驗和知識產(chǎn)權(quán)等大量資料進行分析，并據(jù)此為公司提出投資建議[5]。Vital被公認為“全球首家人工智能公司董事”，但嚴格說，Vital并沒有獲得香港公司法中公司董事的地位，公司的董事會成員將其簡單地視為“具有觀察員地位的董事會成員”[6]。

　　其次，算法在保險領(lǐng)域也逐漸盛行。2018年9月19日，美國歷史最悠久的壽險公司之一約翰·漢考克(JohnHancock)作出了根本性的改變：它停止提供按年齡、健康史、性別和就業(yè)歷史等傳統(tǒng)人口統(tǒng)計數(shù)據(jù)來定價的壽險。轉(zhuǎn)而開始通過可穿戴醫(yī)療設(shè)備、智能手機應(yīng)用程序和網(wǎng)站，根據(jù)與投保人的互動程度來定價[7]。

　　最后，人工智能在金融法和證券法領(lǐng)域也有所創(chuàng)新。在商事金融交易行為中，從金融科技到科技金融的轉(zhuǎn)變，體現(xiàn)出科技在金融交易中的主導地位。其實，算法很早就開始介入金融交易行為，如薦股軟件等智能投顧系統(tǒng)(Robo-Adviser)。目前智能投顧系統(tǒng)可以做到根據(jù)服務(wù)對象的特征或偏好，給出個性化的投資建議，但不進行交易;也可以為服務(wù)對象提供交易服務(wù)，包括完全自動交易、人工投資顧問協(xié)助交易和執(zhí)行交易[8]。

　　又如，在證券市場電子化交易背景下出現(xiàn)了與一般程式化交易更為復(fù)雜的“算法交易(AlgorithmicTrading)”，即在程序化交易的基礎(chǔ)上，加入特殊的算法交易策略，該算法交易實際上是將交易經(jīng)驗、交易策略、對市場環(huán)境的適應(yīng)等知識和智慧固化到算法交易程序之中，從而降低大單交易的市場沖擊成本，以及在整個交易中獲得最優(yōu)的成交價格[9]。

　　無論是智能投顧系統(tǒng)，還是證券交易中的算法交易，都可能存在被濫用或操縱的風險，此時需要界定算法在其中扮演何種角色。基于此，算法已經(jīng)在不同形式和不同程度地介入合同、侵權(quán)行為、公司治理、保險合同、證券交易等整個私法領(lǐng)域。算法不僅被網(wǎng)絡(luò)服務(wù)商所利用，有時候也可能幫助消費者作出消費決策，甚至可以在消費者授權(quán)或設(shè)置參數(shù)和偏好的情況下通過算法程序直接進行交易。以上的線上行為在法律上表現(xiàn)為“算法合同”(AlgorithmicContracts)，從而形成了算法消費者(AlgorithmicConsumers)群體。所以，探究算法在私法領(lǐng)域中扮演何種角色十分重要。

　　(二)回歸算法的本原：彈珠迷宮游戲

　　人工智能的本質(zhì)是算法和數(shù)據(jù)，算法是對數(shù)據(jù)的一系列程序邏輯，該程序邏輯是在自然語言基礎(chǔ)上建構(gòu)起來的。自然語言是一種上下文相關(guān)的信息表達和傳遞的方式，人工智能機器的運作是將自然語言用算法邏輯來實現(xiàn)，但這并不是通過電腦模擬人腦。人工智能(計算機)的自然語言處理，是為自然語言這種上下文相關(guān)的特性建立數(shù)學模型，亦即統(tǒng)計語言模型，這是當今將人工智能廣泛應(yīng)用在機器翻譯、語音識別、人臉識別、圖像識別等領(lǐng)域的基礎(chǔ)[10]15-39�？傊�，人工智能的應(yīng)用并不是簡單地模擬人腦，而是通過數(shù)學模型對自然語言進行處理，以算法的方式運行的程序。

　　當今人工智能的成功也不是仿生學的成功，其成功靠的是數(shù)學和算法。即使是當今所謂的“人工神經(jīng)網(wǎng)絡(luò)”和基于深度學習的Google大腦，也只是使用了一些與生物學相關(guān)的名詞。除此之外，人工神經(jīng)網(wǎng)絡(luò)和人腦沒有任何關(guān)系，本質(zhì)上是一種有向圖(貝葉斯網(wǎng)絡(luò))，是基于數(shù)學模型的算法而已[10]254-271。算法的基礎(chǔ)，是基于布爾代數(shù)進行的，也就是0和1的二進制。布爾代數(shù)雖然非常簡單，但它將邏輯和數(shù)學合二為一，開創(chuàng)了今天的數(shù)字化時代[10]82-88。

　　因此，所有算法，無論多復(fù)雜，都能分解為三種邏輯運算：且、或、非。算法具有一定的學習能力，可以通過大數(shù)據(jù)不斷地進行深度學習，但算法學習會受到大數(shù)據(jù)的影響。符合學派的算法可以得出確定答案，可以變成自主決策系統(tǒng)[3]，如前述。算法的邏輯結(jié)構(gòu)就是“且”“或”“非”。即使是自主決策系統(tǒng)，也只是在“且”“或”“非”三種邏輯結(jié)構(gòu)中程式化、模塊化地作出決定，就像彈珠迷宮游戲一樣。彈珠之所以能夠走出迷宮，是因為彈珠是在預(yù)設(shè)的各種程序(線路)中進行，算法就是彈珠迷宮游戲的規(guī)則(線路)。

　　即使是被授予沙特公民的索菲亞也一樣，其本質(zhì)在于算法和數(shù)據(jù)的處理，只是其物理的外形表現(xiàn)為人形，但其僅僅是一個由算法主導的硬件系統(tǒng)，其工作的邏輯主要是通過傳感器以及語音識別系統(tǒng)，將人類的自然語言以及外界的感知轉(zhuǎn)換成機器語言傳達到控制系統(tǒng)，控制系統(tǒng)通過高速計算處理，將信息傳達到驅(qū)動系統(tǒng)，從而輸出語言和特定的指令動作。需要指出的是，算法并不是認知層面的學習，尤其不是指人類學習。相反，算法可以視為一種能在未來接收更多數(shù)據(jù)時調(diào)整行為以獲得更佳表現(xiàn)的學習方式[11]。

　　機器學習涉及許多以不同方式在代碼中得以具象化的模型，當前盛行的機器學習包括神經(jīng)網(wǎng)絡(luò)、決策樹、貝葉斯和邏輯回歸等算法[12]。所謂算法中的自由意志，不過是算法的“目標是實現(xiàn)幾乎最優(yōu)概率決策”[13]297，現(xiàn)有的算法既不是完全確定也不是完全隨機的。所以，“當今的AI系統(tǒng)絕對不是任何有意義的智能思維機器。相反，人工智能系統(tǒng)通常能夠在沒有智能的情況下產(chǎn)生有用的智能結(jié)果。這些系統(tǒng)在很大程度上通過啟發(fā)式方法來實現(xiàn)這一目的，方法是檢測數(shù)據(jù)中的模式，并使用人們專門編碼的知識、規(guī)則和信息，將其編碼為可以由計算機處理的形式”[14]。

　　綜上，算法與法律行為之間的關(guān)系，并非是算法系統(tǒng)自主作出法律行為。作為自動化決策的算法系統(tǒng)，此種意思表示仍是人類意思表示的延伸。因為在電子數(shù)據(jù)交換等所謂自動化意思的情形，表示信息雖經(jīng)由計算機等工具發(fā)出，但因其程序系由表意人為特定目的而設(shè)計或設(shè)定，仍屬表意人的意思表示[15]。即使是無限強大的計算機，也僅僅是我們意志的延伸。因為每一種算法都是由表示方法、評估和優(yōu)化三個部分組成，所有的人工智能系統(tǒng)都具備前三個組成部分。這些人工智能系統(tǒng)或者算法可以多樣化作出內(nèi)容和驚人的計劃，但都僅僅服務(wù)于我們?nèi)祟愒O(shè)定給他們的目標[16]。

　　三、算法與法律行為的制度影響

　　如前所述，算法將對私法領(lǐng)域中的法律行為造成深遠影響。如美國著名信息法權(quán)威巴爾金(Balkin)教授所說，當機器人和人工智能載體創(chuàng)造利益或造成他人損害時，法律的關(guān)鍵問題是如何在人類之間重新分配權(quán)利和義務(wù)[17]。

　　四、私法領(lǐng)域中法律行為制度對于算法的法律回應(yīng)

　　(一)消費者類型化的細分：從消費者向算法消費者演進1.私法框架下算法與法律行為法教義學闡釋的不足在人工智能場景，算法等智能系統(tǒng)對于法律行為產(chǎn)生的影響：(1)在線上網(wǎng)絡(luò)等智能場景所形成的智能合同(SmartContract)等是否為合同的形式;(2)如何從法律行為角度解釋定價算法、應(yīng)用生成合成類算法、個性化推送類算法、排序精選類算法等算法技術(shù)對法律行為效力產(chǎn)生影響。

　　對于影響一，《民法典》第135條規(guī)定了民事法律行為可以采用“書面形式”“口頭形式”“其他形式”等三種方式。該條的“其他方式”為智能合同提供了解釋空間，智能合同可以作為民事法律行為的方式之一。對于影響二，民法典在法律行為效力制度中并無直接回應(yīng)算法等智能系統(tǒng)影響的規(guī)范。筆者認為，算法在法律行為的錯誤制度中的影響，可以從錯誤制度的本質(zhì)角度予以解釋。

　　例如，在算法使用人的表意人有過失情形，尤其是算法使用人為企業(yè)經(jīng)營者時，對于重大誤解的要件應(yīng)當采取表意人過失情形作為消極要件，即算法使用人基于算法錯誤而陷于錯誤，此時表意人有過失時不可行使撤銷權(quán)。其次，假如算法在運行過程中發(fā)生故障，還可從意思表示到達障礙制度予以解釋。意思表示到達障礙理論認為，到達受阻的意思表示沒有到達，但到達受阻可歸責于受領(lǐng)人的除外[30]。此時在交易過程中如果發(fā)生算法錯誤，并且受領(lǐng)人對于到達受阻并無可歸責性，那么作為表意人的算法使用人應(yīng)該對于發(fā)生算法錯誤造成到達受阻承擔風險，即意思表示沒有到達受領(lǐng)人的風險。

　　在法律行為制度的欺詐認定上，行為人可通過算法對表意人的意思表示造成影響，甚至通過算法分析行為人的網(wǎng)絡(luò)軌跡以窺探表意人的內(nèi)心意思(購買意愿)，此時對于行為人的欺詐認定也應(yīng)當遵循民法上欺詐的要件，但可以在舉證責任上進行降低要求甚至采取舉證責任倒置的方式，只要算法行為人(使用人)有欺詐的行為即可推定構(gòu)成欺詐，以保護算法消費者。例如，2019年5月歐盟發(fā)布2019/770號指令，針對電子數(shù)據(jù)和電子服務(wù)以及消費者買賣合同作出新規(guī)定，該規(guī)定除了規(guī)定適約性外，在其第12條明確規(guī)定了經(jīng)營者承擔舉證責任的倒置。

　　因此，在人工智能場景下，隨著大數(shù)據(jù)和算法的深度發(fā)展，作為法律行為效果意思形成前提的信息獲取變得相對容易，繼而造成表意人和相對人在信息地位上的失衡，特別是擁有大數(shù)據(jù)且又擁有算法能力的大公司，將極大地左右意思自治的空間[31]。但此時并不會對傳統(tǒng)民法上欺詐的構(gòu)成要件造成根本性沖擊，僅需在認定算法等人工智能載體是否構(gòu)成欺詐時，在某個要件作特殊性處理即可。即使可據(jù)此作出上述法教義學解釋，卻有一種螺絲殼里做道場之困境。并且，在法律行為制度外投保人告知義務(wù)和商事金融行為等商事領(lǐng)域中，難以從既定私法框架下通過法教義學闡釋和回應(yīng)算法的影響。

　　五、結(jié)語：

　　人工智能的冷思考當前，人工智能已成為學術(shù)界，乃至全世界關(guān)注的熱點。但是，人工智能的法學研究不是玄學，更不是科幻主義。法學研究應(yīng)該避免盲目跟風，走出對AI的貨物崇拜，回歸學術(shù)研究的理性軌道[49]。

　　所以，對于人工智能的討論需要回歸其本原，即算法和大數(shù)據(jù);對于人工智能討論的范式也需要回歸到法律制度框架下進行，并不能天馬行空地進行“法律假象”，甚至是“臆想”。畢竟“最好的人工智能也無法與普通的4歲小孩匹敵”[13]275，算法只是一種程式性的計算活動，當前的人工智能算法并不能形成有效的意思表示，我們基本可以推導出，當前人工智能的算法在私法領(lǐng)域的運用，僅限于成為人類意思表示延伸的工具。但是，算法使用者基于大數(shù)據(jù)和算法的使用形成了算法權(quán)力，這將對意思表示產(chǎn)生一定影響。

　　例如，算法通過搜集用戶的網(wǎng)絡(luò)瀏覽記錄(痕跡)從而判斷用戶意思表示中的內(nèi)心意思和交易意思，在此基礎(chǔ)上獲得優(yōu)勢地位。此時，算法不會對法律行為效力造成根本性挑戰(zhàn)，可以通過錯誤、欺詐等制度中的具體構(gòu)成要件進行重新解釋;經(jīng)營者利用算法進行交易時，消保法可重塑經(jīng)營者與消費者之間的權(quán)利義務(wù);在商事金融領(lǐng)域，利用算法的金融機構(gòu)將被賦予更高的注意義務(wù)。在算法時代，在個人層面要完善個人信息保護制度，在企業(yè)層面需要利用算法提高經(jīng)營能力，如何尋求個人信息保護和規(guī)制算法之間的平衡點是一項重要的課題。

　　參考文獻：

　　[1]王利明.人工智能時代提出的法學新課題[J].中國法律評論,2018(2):1-4.

　　[2]王利明.人工智能時代對民法學的新挑戰(zhàn)[J].東方法學,2018(3):4-9.

　　[3]鄭戈.算法的法律與法律的算法[J].中國法律評論,2018(2):66-85.

　　[4]MichalS.Gal,NivaElkin-Koren.AlgorithmConsumer[J].HarvardJournalofLaw&Technology,2017(2):314.

　　[5]尤瓦爾·赫拉利.未來簡史[M].林俊宏,譯.北京:中信出版社,2017:290.

　　[6]FLORIANMÖSLEIN.Robotsintheboardroom:Artificialintelligenceandcorporatelaw[C]//WOODROWBARFIELD,UGOPAGALLO.Researchhandbookonthelawofartificialintelligence.EdwardElgarPublishing,2018:650.

　　[7]SWEDLOFFRICK.AlgorithmsandAIareradicallychanginginsurance.Regulatorsarebehindthecurve[EB/OL].(2019-06-05)[2020-07-22].

　　作者：劉穎

轉(zhuǎn)載請注明來自發(fā)表學術(shù)論文網(wǎng)：http:///jjlw/28974.html