2017年4月27 日，警方在倫敦英國議會大廈附近進行例行檢查時發現一名持刀男子，隨後以涉嫌恐怖主義活動等罪名將其逮捕

文/《環球》雜誌記者 胡艷芬

編輯/黃紅華

　　在全球範圍內，算法的觸角已深入社會治理的方方面面，而一項廣受爭議的“謀殺預測”計劃正在英國悄然推進。英國《衛報》不久前披露，英國政府正着手開發一套系統，試圖利用海量的個人數據，精準識別出那些“最有可能成為殺手”的人。

　　這並非人工智能首次涉足犯罪預測的領域。早在2010年，美國洛杉磯警察局就推出一個“預測性警務”軟體，用以預測不同地點發生犯罪行為的概率和規模；2022年，美國芝加哥大學研究團隊開發了一款人工智能模型，利用芝加哥2014年至2016年的犯罪數據，用邊長約300米的方格對城市進行劃分，以提前一週預測最有可能發生犯罪行為的城市方格；荷蘭、日本等國也正加速引入相關技術……技術介入司法決策的趨勢似乎日漸明朗。

　　然而，當代碼試圖對複雜的人性進行判斷，當非犯罪數據被納入“全景式畫像”，人們不禁擔憂：這是否觸及了“無罪推定”的底線？算法是否會複製並放大社會既有的偏見，甚至淪為結構性不公的“幫兇”？

　　就這些問題，《環球》雜誌記者採訪了南開大學法學院副院長王強軍。

警惕預測性監控

　　《環球》雜誌：目前世界上已有不少國家開始利用算法、人工智能（AI）工具等進行犯罪預測，這是否意味着算法介入司法決策正在形成新的國際趨勢？

　　王強軍：算法介入司法決策，無論是在文學藝術領域還是學術研究領域，早已不是新鮮事。在大數據和AI的共同助力下，這些算法有望揭示治理手段與治理效果之間最本質的關聯，從而提升司法的決策效率與準確性。然而，這並不意味着人類設計的算法能輕鬆實現其初衷，借助算法進行司法決策尚有漫長的路要走。

　　首先，算法設計之初需要選定兩個具備邏輯關聯的現實變量，以期通過調控其中一個來管控另一個，正如有專家就認為，輕微犯罪可能導致更嚴重的暴力事件。但如果想用社會科學理論對事件之間的因果關係進行推斷，恐怕很難。我們很難像自然科學那樣，精確無誤地證明“A事件必然導致B事件”。因為社會現象複雜多變，而且因素之間相互糾纏。所以，社會科學研究通常只能告訴我們“A事件很可能和B事件有關”，或者“A事件可能是B事件的原因之一”，提供的是一個比較“弱”的、提示性的因果關係推斷，而非絕對確定答案。

　　其次，即便我們能夠證明兩個現實變量存在因果關聯，也仍需證明調控前者能夠有效地影響後者。例如，美國的有色人種犯罪率偏高，這會影響到這部分群體出獄後的就業問題，從而進一步加劇美國的種族不平等。為此，美國政府&&了“Ban The Box”（禁止查問）法案，試圖通過立法限制僱主查詢僱員的犯罪記錄，以解決社會群體平等就業的問題。但該法案&&後，僱主考慮到難以查明有色人種的犯罪前科，反而更傾向於避免招錄這些群體，最終加劇了社會不平等。

　　最後，有人試圖用“溫水煮青蛙效應”以及“破窗效應”，來論證輕微罪立法的必要性。但“溫水煮青蛙效應”已被實驗證偽，而“破窗效應”則難以被證真，即便被證真，也很難被普遍適用於社會治理中。通過嚴懲輕微犯罪來“防微杜漸”的思路過於簡單化，甚至可能無效或有害。

　　故而，將算法介入司法決策的第一步，就是要大量收集社會數據，唯此才能論證指標設立的正當性，進而得出一個相對準確的決策結論。

　　《環球》雜誌：在英國政府的“兇殺預測項目”中，醫療、教育等非犯罪數據也被整合進預測模型，這種“全景式數據畫像”是否突破了“無罪推定”原則，導致法治精神面臨挑戰？

　　王強軍：英國這種項目設計自然會對法治精神産生衝擊，需要做好犯罪預測與訴訟程序的銜接。首先，若國家機器通過數據整合構建“全景式監控”，可能突破傳統法治對公權力的制約。當預防性干預基於預測而沒有其他客觀直接證據支撐時，公民的隱私權、自由權將面臨被侵蝕的風險。其次，若將犯罪預測對象直接納入刑法懲罰範圍，那麼一方面國家在無需犯罪證據的情況下就能直接將人帶入訴訟程序；另一方面，當國家通過兇殺預測項目判斷公民是否實施犯罪時，公民並不知情，缺乏對自身被風險評估檢測的知情權、異議權和救濟渠道，也難以對自己的行為進行合法性評估。這與法治所要求的透明度和程序正義背道而馳。

4月10日，英國首相斯塔默在訪問劍橋郡警察局總部期間發表講話。他宣布，將在明年部署3000 名社區警務和支援警務人員，以應對日益上升的社區和街頭犯罪率

  但兇殺預測項目與“無罪推定”並不具備直接的&&。“無罪推定”是指任何人在未經依法判決有罪之前，都應被視為無罪。此外，“無罪推定”還包括被告人不負有證明自己無罪的義務，並且不能因為被告人沒有或不能證明自己無罪而認定其有罪。作為刑事辦案過程的指導思想，“無罪推定”實際上是對犯罪嫌疑人權利的保障。

　　不過，“無罪推定”並不影響偵查機關圍繞犯罪嫌疑人採取強制措施，或進行調查取證。在兇殺預測項目中，國家系統確實能收集足夠多的非犯罪數據，但關鍵在於收集不到任何與犯罪直接關聯的數據。

　　《環球》雜誌：邊沁的“圓形監獄”隱喻在數字時代是否正成為現實？

　　王強軍：犯罪預測事實上就是通過對公民的全部數據進行監控，使其所有犯罪行為甚至犯罪可能性都置於“日光之下”，從而進行全方位的強制性規訓。這種預測監控實際上是將自由與安全推到了頗為極端的領域——公民是否需要如此讓渡自己的自由以實現社會的安全治理？

　　預測性監控一開始必然針對極端刑事案件，接下來會因為一些高發性案件的不斷出現，試圖通過預測的方法進行控制，進而不斷地將監控範圍擴張。並且，公民一旦脫離監控的領域，有可能會為自己因此受到的壓抑，進行報復性宣泄。

規避“數據陷阱”

　　《環球》雜誌：有研究者認為，複製社會中的偏見一直是AI使用中難以解決的問題。你如何看待用AI預測犯罪所産生的偏見問題？

　　王強軍：AI確實存在着一定的基於設計邏輯或社會偏見而得出的“幻覺性”結論。這種“幻覺性”的來源並非單一，因此我們需要擔心的影響AI模型結論的因素，也不僅僅是“偏見”這一點。並且，犯罪預測模型的設計以及模型與司法程序的銜接，並非一個簡單的AI模型就能實現，而是需要通過社會實證數據的研究，並對預測邏輯進行評估才能完成。

　　“偏見”事實上是人基於主觀認識得出的結論，它既可以通過社會實踐建立，也可以被打破。我們不必將“偏見”一棍子打死，否定其價值。如何利用“偏見”，如何通過數據分析模型對一些“偏見”進行證偽，這才是未來技術發展的重要價值之一。

　　《環球》雜誌：英國少數族裔犯罪率更高的歷史數據被算法吸收後，是否會放大對少數族裔的歧視，加劇結構性不公？法律該如何防範算法成為種族主義的“幫兇”？

　　王強軍：法律面前人人平等。面對少數族裔犯罪率更高的歷史數據，我們無法忽視這些數據，否則就違背了犯罪預測模型最底層的邏輯。當然，種族歧視、不平等問題也是客觀存在的，但法律的功能也是有限的，無法解決所有問題。並且，種族問題無法通過強制性手段予以調節，而需要通過經濟或教育手段進行潛移默化地調整。

　　回到法律層面，需要反思的是：少數族裔犯罪率高，究竟指的是少數族裔的一般犯罪率更高，還是由於針對少數族裔的犯罪查處力度更強，從而導致犯罪率更高？以公路攔車抽檢為例，部分美西方國家的警察對少數族裔格外“照顧”，抽檢率更高。而抽檢率高，自然指向犯罪的發現率也更高。

　　面對少數族裔更高的犯罪率，需要進行更科學理智的辨識：即究竟是在同等比例抽取樣本的前提下，少數族裔的犯罪率更高；還是由於少數族裔的抽取樣本佔比更高，從而導致犯罪率更高？後者可能是在算法設計之前就要提前規避的數據陷阱。

犯罪預測只能作為輔助證據

　　《環球》雜誌：算法治理如何避免掉入“技術替代人性”的陷阱？

　　王強軍：算法治理只能作為一種治理手段的補充，而不能替代或成為犯罪預防的必要環節。但算法治理本身又存在巨大價值，需要在充分利用這種價值的基礎上，謹慎限制其具體適用範圍。

　　首先，算法的預測有一個前提，就是確保行為人目前狀態與行為結果之間具備強因果&&。這種強因果&&表明，行為只有發展到一定階段，直接導向犯罪時，算法的運用才有必要性。

　　其次，算法無法取代人類主導的司法程序。法律只有在人類的適用下才會有溫度。算法能夠通過對行為人諸多外部特徵的分析，反映出行為人內部的一定心理樣態。也就是説，算法治理的推廣，能夠輔助訴訟程序中主觀罪過、明知內容等方面的證明。同時，算法分析能夠在一定程度上將抽象危險犯的危險程度盡可能具體化，例如醉酒駕駛機動車的行為，算法能夠綜合行為人的酒精接納能力、行駛道路等多方面因素，判斷出其危險行為對交通安全的實際威脅，進而促進刑事立法與刑事司法的精細化。

　　罪刑法定原則始終是刑法的基本原則。算法的預測結果能夠成為證據構成的一部分，但絕不能將其完全取代，只有通過對行為人全部涉案證據的判斷，才能認定其是否有罪。

　　《環球》雜誌：陀思妥耶夫斯基曾説“人是一個奧秘，應該解開他”，而算法試圖用線性思維解構人的非理性犯罪動機。這種技術簡化是否會從根本上誤判人性？

　　王強軍：人類通過發展算法技術，能夠不斷加深對思維結構的理解與分析，但從目前能看到的技術發展程度和多數觀念看，人工智能無法對人性進行徹底、準確的預判。人類行為等看起來既是容易被預測的，又是無法被完全預測的。就我個人的理解，算法只能對人類的思維以及行為進行一個高概率的預測，既然存在高概率的預測結果，那麼便必然存在低概率的意外情況，因此，這種預測在很長一段時間內恐怕也只能作為輔助證據。

　　《環球》雜誌：在司法實踐中，有哪些被認為是必要且合理的犯罪預測方法？你認為在預測犯罪上，AI應該如何合理合法地發揮作用？

　　王強軍：事實上，在司法程序的不同階段確實存在着切實可行的預測方法，這些預測方法也已經內化為偵查機關的工作重點以及辦案方法。例如，警察會在歷來發案量高的時間或地點開展重點巡邏活動；又如在重要節假日，在公眾場所加強對盜竊案件的預防工作等。偵查機關在偵破案件過程中，會圍繞未知的犯罪嫌疑人進行心理畫像，把握其外在特徵，從而為偵破工作提供辦案方向。

　　對於AI的使用，首先需要建立正確的AI分析數據庫，能夠證明犯罪先期特徵與犯罪具體行為之間存在強因果關係；同時也要正視，在數據收集上，由於個人的收集偏好，會導致對象群體産生誤差的情況；其次，AI的使用要完全在現有司法機制下進行，預測結果在個案中作為證據的輔助，結合犯罪嫌疑人的行為進行綜合研判；最後，AI使用於個體應當始終以犯罪客觀方面（主要包括危害行為，危害結果，刑法因果關係，犯罪的時間、地點和方法等）為核心，即應當被動地使用AI，以分析犯罪嫌疑人的犯罪特徵。法律無法解決所有問題，AI也同樣無法解決所有的犯罪預測問題。

　　（南開大學法學院博士研究生王文博對此文亦有貢獻）