如今，我們步入了“以算法為依據、以數據為中心”的“灰暗”時代。“灰暗”并非“黑暗”：我們置身陰影，但仍能看見光明。我們依然擁有選擇去向哪里的權利。
在“數據即資源”“數據即權力”“數據即一切”的時代，傳統意義上作為社會主體的“人”，也不可避免地被全面數據化。我們正在被“算法權力”（algorithmic power）全面支配。“代碼就是法律，它可以限制自由，或者使自由成為可能。”在這里，我們不準備過度區分“代碼”與“算法”，盡管二者之間還是稍有一些細微的差別；在一般意義上，這樣的處理已經足夠了。進一步地，在這樣一種以算法為依據、以數據為中心的灰暗時代，所有人都將成為片面單薄的人，所有人都將受到算法的支配，算法順勢成為一種“超級權力”。
就內在而言，每一個生命都是鮮活的個體，每一個個體都有著生動、多維的日常呈現。然而，在“數據即一切”的灰暗時代，每一個人都被壓縮、投影到特定的平面上（往往是“利益的平面”），變得面目模糊，卻“數據清晰”起來。在這種超級權力面前，人的主體性面臨被取消的危險。人被壓縮成一堆離散的特征值。G君=男性、杭州居住、健康、稍瘦、高頻飛機出行、陽光……問題在于，哪怕所有這些離散的特征值重新組合，也重構不了一個活生生的G君。但糟糕的是，這些離散的特征值可以有效“識別”出G君。于是，在算法權力面前，G君就等同于這些離散值。在“一堆離散的特征值”面前，其實并不需要所有的特征值都具有對于特定主體的“識別特征”，而只要求算法提取出來的特征值滿足主體的特定要求即可。例如，商業機構可以通過“用戶畫像”提取對實現其盈利、增收有益的對象特征。比如，“美團外賣”會根據消費者的一些特征定義出“高頻消費者”等標簽，從而實現如下目標：（1）提升用戶的單均價和消費頻次，進而提升用戶的LTV（life time value）；（2）解決好用戶的留存問題。目標（1）的具體手段包括：交叉銷售（新品類的推薦）、向上銷售（優質高價供給的推薦）以及重復購買（優惠、紅包刺激重復下單以及優質供給的推薦帶來下單頻次的提升）；目標（2）的具體手段包括：通過提升用戶總體體驗以及在用戶有流失傾向時通過促銷和優惠將用戶留在外賣平臺。總之，圍繞賺更多錢的目的，在算法和大數據面前，其實不需要個體的“陽光”這一類特征，除非它有利于盈利。比如，在一些互聯網交友平臺上，“陽光”成為一個值得重視的摹狀詞。
“算法權力這種新興的權力并不把我們當成‘主體’來對待，而是作為可計算、可預測、可控制的客體。”因為實在沒有必要將普通公眾視為“主體”，僅僅將其視為“對象”甚至視為“活動的數據集”，對算法擁有者、算法的主體而言就夠了。如鄭戈所指出的，“無形的智能算法已經改變了我們生產方式、消費方式和生產關系、社會關系”，同時也使得公民權利面對更隱微、更無所不在、更多元化的權力技術的侵蝕。作為主體的人類被迫虛擬、數據化。
“被迫暴露”是當代人類的生活現實。大數據時代，我們并沒有真正的隱私。哪怕是一堆“去個人化”的數據，經過適當的算法推理演算，最終也可能精準地個人化。實際上，諸多數據維度都對特定的目標有一定權重的貢獻，幾乎沒有哪一個數據標簽是“完全獨立”的，這一方面導致網站或商品排行等“自然數據”難以真的“自然”（經常受到其他數據的影響），另一方面也決定了敏感的隱私數據經常會因一些非敏感的數據而“暴露”。算法的當代現實就是：“對個人身份的已識別或可識別狀態往往是數據分析的結果而不是起點”，對于這樣的結果，無論公民個人還是監管者，其實都無能為力。因為，隱私不是被“侵犯”了，而是被“發現”了——他們并沒有“侵犯”公眾的隱私，只是符合邏輯地“發現”了公眾的隱私。我們對自我隱私的暴露報以無可奈何的羞赧。
對此，我們不能無動于衷。人工智能的野馬需要套上理智的羈籠，算法的野蠻需要法律的規制。算法是有價值觀的，不能讓“效率”成為算法唯一的價值導向，而應當將人類的價值理性灌注入各類算法體系內部。當前，算法的主流邏輯是“效率說了算”，而這是成問題的。不過，要讓法律進入算法其實困難重重。同一種流行的誤解相反，法律絕非“清晰明了的規定的集合”，而是包含著大量的模糊、混沌與曖昧的文本，有賴法律共同體的成員以各種各樣的方式進行具體闡釋。這種闡釋不僅包括對法律未明地帶的必要擴展，也包括對其文本含義的具體注解。這意味著，單純的法律文本對于算法專家而言不啻另一種“天書”。正如許多研究者都已指出、已成常識的一個共識：法律算法化需要法律人和人工智能技術專家的協同努力。法律算法化這一步是必要的，只有形式化才能避免后續的重復勞動。鄭戈認為，法律算法化其實是在“倒逼”法律人更加精準和體系化地表述法律知識。盡管這種“更加精準和體系化”對人類的法律體系而言，其實并沒有什么價值。正如“高精度地圖”對于人類駕駛員的導航來說完全不必要而且多余一樣（人類日常使用的電子導航地圖通常為“有向圖”結構，把道路、河流抽象成一條條的線，各線連通關系構成整體上的有向圖，有向圖上重要的是表達地理元素之間的相互關系和通達性；而供自動駕駛導航所用的“高精度地圖”則需要描述車道、車道的邊界線、道路上各種交通設施和人行橫道）。以一種機器能理解的方式體系化現有的法律知識，其全部的目標也就在于“讓機器利用知識以便利用機器”，具體來說就是“讓算法理解法律以便利用算法”。此種規制有助于防止算法權力的陰影過度擴大。
“法律算法化”是“用技術化方案解決技術化問題”的一種良好嘗試。可以認為，“以代碼為法律”是一種“以毒攻毒”的思路，未來即使不普遍采用這一思路作為總體規制人工智能的法律策略，局部的實際使用也是不可避免的。因為，最能有效說服暴力的其實是更強大的暴力，最能直接制約代碼的其實是更有力的代碼。當然，這并不意味著要放棄理性的指引、規則的制約，而是說在具體工具的選擇上，“讓代碼對抗代碼”是一種符合技術理性、更有效率的正確選擇。
（作者單位：浙江大學科技與法律研究中心）
轉自：中國社會科學網
滇公網安備 53040202000256號
