近幾個(gè)月內，京東、阿里、騰訊、愛(ài)奇藝等互聯(lián)網(wǎng)大廠(chǎng)“裁員”的詞條頻頻沖上熱搜。被裁的人心是涼透的，被裁邊緣的人心是不安的，一邊尋找退路，一邊還要擔心“退路”有可能被提前曝光。

就在今年年初，知乎被曝出，利用網(wǎng)絡(luò )行為感知系統監控員工離職傾向，從而實(shí)現“精準”裁員。盡管知乎第一時(shí)間否認了這一說(shuō)法，并表示今后也不會(huì )啟用類(lèi)似軟件工具，但是，離職傾向分析服務(wù)確實(shí)存在，一時(shí)引發(fā)了網(wǎng)絡(luò )熱議。

在大數據治理時(shí)代，企業(yè)對效率、精確、標準化的追求，轉化為了對個(gè)體施加嚴格控制的力量。這將如何影響社會(huì )的未來(lái)？我們能反抗大數據治理嗎？

“上班摸魚(yú)”能被監控嗎？

知乎事件的起因，來(lái)自一張網(wǎng)傳的系統后臺圖片，上面清楚顯示了一名員工訪(fǎng)問(wèn)求職網(wǎng)站次數、投遞簡(jiǎn)歷次數，以及含關(guān)鍵詞的聊天記錄數量。

很快，許多網(wǎng)友和媒體都找到了相關(guān)的網(wǎng)絡(luò )分析系統“行為感知系統BA”，以及研發(fā)這一系統的公司深信服，并從公司客服處確認了這套系統可以用于對員工在單位網(wǎng)絡(luò )內的網(wǎng)站訪(fǎng)問(wèn)記錄進(jìn)行分析，支持做離職傾向分析。

有媒體據天眼查結果發(fā)現，深信服在2018就申請了相關(guān)技術(shù)專(zhuān)利—— 一種離職傾向分析方法、裝置、設備及存儲介質(zhì)。

目前，記者在深信服官網(wǎng)已經(jīng)無(wú)法找到“行為感知系統BA”介紹和案例，但存在“全網(wǎng)行為管理AC”服務(wù)，主要是感知終端違規接入、上網(wǎng)違規行為、敏感數據泄密等內部風(fēng)險。在“解決方案”一欄中包括了上網(wǎng)行為管理，涉及全面識別與管控網(wǎng)絡(luò )中與工作無(wú)關(guān)的應用，提高工作效率，并無(wú)離職分析相關(guān)內容。

事件發(fā)生后，網(wǎng)友直指企業(yè)商業(yè)道德問(wèn)題，再次引發(fā)了對網(wǎng)絡(luò )數據挖掘分析突破隱私保護底線(xiàn)的擔憂(yōu)。

香港大學(xué)法學(xué)教授雷蒙德·瓦克斯在牛津通識讀本《隱私》中提到，在“數據保護原則”中為首的，就是個(gè)人數據只能以合法和公平的方式收集。這就要求數據使用者向數據主體通報使用數據的目的、可向其傳輸數據的各類(lèi)人員、數據主體提供數據是自愿的還是強制的、未能提供數據的后果，同時(shí)數據主體有權請求訪(fǎng)問(wèn)和更正個(gè)人數據。

換句話(huà)說(shuō)，分析技術(shù)本身并沒(méi)有直接對隱私安全產(chǎn)生威脅，但如果企業(yè)是在員工并不知情的情況下，獲取數據、分析數據，并針對結果采取了相應的措施，這就涉嫌違法。

知乎否認了使用該系統，但目前企業(yè)監控員工上網(wǎng)情況的行為并不罕見(jiàn)，比如監控員工“上班摸魚(yú)”。

去年11月16日，國美內部通報了員工看視頻、刷抖音、聽(tīng)音樂(lè )等“摸魚(yú)”行為，并給予相關(guān)處罰。國美總部也承認對員工非工作流量信息進(jìn)行了監測、統計，識別員工是否在工作區域內占用公司公共網(wǎng)絡(luò )資源從事與工作無(wú)關(guān)事宜。但其并未回應，企業(yè)是否將監控事宜事先告知員工，并得到員工同意。

“將現代科技的成果用于社會(huì )公共事務(wù)當中，以提高整個(gè)社會(huì )運行的效率是一種普遍現象，這叫技術(shù)治理?！敝袊嗣翊髮W(xué)哲學(xué)院教授劉永謀在接受《中國科學(xué)報》采訪(fǎng)時(shí)表示，技術(shù)治理從來(lái)都不是完美的利器。

控制與操控的界限在哪兒？

隨著(zhù)物聯(lián)網(wǎng)、大數據、云計算和人工智能等智能技術(shù)的興起，用數字來(lái)測量、預測、規劃和控制社會(huì )的理想有了實(shí)現的可能?？梢哉f(shuō)，人們正面臨一個(gè)大數據治理時(shí)代。

“在這樣一個(gè)時(shí)代，企業(yè)日益熱衷于對勞動(dòng)者的標準化、數字化認知。它產(chǎn)生的原因無(wú)非是希望節省人力成本，追求更高的效率?！眲⒂乐\直言。

“從工具意義上說(shuō)，企業(yè)正在把勞動(dòng)者作為一種純粹的人力資源，而不是一個(gè)完整的人。盡管從效率角度有其合理性，但卻是一種片面的合理性?！眲⒂乐\說(shuō)，因為它會(huì )產(chǎn)生隱私侵犯、數據歧視、霸權等風(fēng)險。這些問(wèn)題并非從無(wú)到有，而是在大數據治理時(shí)代被放大了。

大數據治理時(shí)代，到底會(huì )如何影響人類(lèi)社會(huì )的未來(lái)？這個(gè)問(wèn)題一直備受關(guān)注。劉永謀認為，目前主要存在兩種比較極端的看法。

一種充滿(mǎn)了樂(lè )觀(guān)態(tài)度，認為它可以讓我們向一個(gè)更加“整合、靈活、全面的政府”的方向前進(jìn)，整個(gè)社會(huì )將像發(fā)條裝置一樣精確運行，符合理性、邏輯與公平。

另一種，則以美國哈佛大學(xué)商學(xué)院教授肖莎娜·祖博夫所謂的“監控資本主義”為代表。她認為，由于政府與企業(yè)能夠通過(guò)數據的監測與分析，充分地了解個(gè)體并預測個(gè)體的行為，他們就掌握了對個(gè)體施加嚴格控制的力量，以大數據算法塑造人類(lèi)的行為。

前者的“數據烏托邦”思維已經(jīng)很難得到人們的認可，但劉永謀也不支持后者過(guò)度強調“控制”的負面效應。

所有的政治秩序都建立在協(xié)調、合作和控制的基礎之上，缺乏三者中的任何一個(gè)，組織集體生活都是不可能的。因此，大數據治理并不單單服務(wù)于控制，它同樣在社會(huì )協(xié)調、合作方面起到了積極作用。

“人們不必對‘控制’二字過(guò)分緊張和排斥?！眲⒂乐\表示，“自人類(lèi)文明出現，就有了控制，教育、宗教都帶有控制性。如果沒(méi)有控制，人類(lèi)社會(huì )依舊是野蠻狀態(tài)?！?/p>

“問(wèn)題的關(guān)鍵在于，控制要有度，超過(guò)了適度范圍就會(huì )變成操控。因此，在大數據治理中，我們需要關(guān)注的核心是，在具體的語(yǔ)境當中辨析控制和操控之間的界限在哪里，這才是比較好的解決問(wèn)題的路徑?！眲⒂乐\談道。

你并非完全被動(dòng)

大數據治理時(shí)代，由于算法似乎越來(lái)越具有自主的、難以控制的力量，帶來(lái)了監視一切、預測一切的可能，容易引發(fā)公眾的信任危機。但劉永謀告訴《中國科學(xué)報》，在已經(jīng)展開(kāi)的大數據算法與社會(huì )信任之間的博弈中，公眾并非是完全被動(dòng)的。

上海交通大學(xué)科學(xué)史與科學(xué)文化研究院助理教授沈辛成在《人工智能與價(jià)值觀(guān)》一書(shū)中分享了一個(gè)案例。早在2014年，亞馬遜開(kāi)發(fā)了一套人力資源管理系統。這套系統用人工智能來(lái)分析篩選求職簡(jiǎn)歷，通過(guò)給求職者打分，在一百份簡(jiǎn)歷中篩選出“最好”的五位，直接錄用。但一年以后問(wèn)題就出現了，這套算法工具基于的數據是亞馬遜此前十年的員工資料，基礎數據本身存在性別不平衡，于是算法分析歸納后得出了一個(gè)帶有偏見(jiàn)的結論：男員工比女員工更可靠。

缺陷一經(jīng)暴露，立刻引起了人們的道德不適，引發(fā)了社會(huì )的強烈質(zhì)疑和反思。而這種公共情緒和輿論反抗，也隨之產(chǎn)生了積極的意義。亞馬遜的“翻車(chē)”使得這項技術(shù)停止在公司使用，還有咨詢(xún)公司在相關(guān)報告中提出了技術(shù)改進(jìn)方式，比如，不向算法提供員工個(gè)體生理、文化屬性等，避開(kāi)帶有傾向性的價(jià)值判斷。

同樣，國內也有比較成功的案例。

就在去年，人們逐漸意識到日常生活正在被“算法推薦”所操控，受困于一個(gè)個(gè)“信息繭房”之中。中國人民大學(xué)新聞學(xué)院教授彭蘭就曾撰文《算法社會(huì )的“囚徒”風(fēng)險》。許多年輕人也從自身做起，開(kāi)啟了對抗算法推薦的實(shí)踐，豆瓣還成立了“反技術(shù)依賴(lài)”小組。

這樣的輿論氛圍生成了一股對抗算法的合力。從結果來(lái)看，2021年8月20日，第十三屆全國人大常委會(huì )第三十次會(huì )議審議通過(guò)的《中華人民共和國個(gè)人信息保護法》中，就包含了對算法推薦這類(lèi)“大數據殺熟”問(wèn)題的相關(guān)規定。第24條規定，通過(guò)自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營(yíng)銷(xiāo)，應當同時(shí)提供不針對其個(gè)人特征的選項，或者向個(gè)人提供拒絕的方式。

就在今年1月4日，中國網(wǎng)信網(wǎng)發(fā)布了國家網(wǎng)信辦等多部門(mén)聯(lián)合修訂的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》，要求不得根據消費者的偏好、交易習慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇。

這一切都意味著(zhù)，利用大數據“殺熟”或將成過(guò)去式。

這也符合劉永謀所思考的大數據治理的合理的規則設計，即增加公眾的參與、反饋，應該成為技術(shù)、制度調整的依據。沒(méi)有一項技術(shù)、制度設計是一勞永逸的。

企業(yè)和政府都有責任

英國學(xué)者、執業(yè)律師杰米·薩斯坎德在《算法的力量》一書(shū)中提醒人們，過(guò)去科技公司只是在市場(chǎng)體系中運行并追求有限經(jīng)濟利益的私人實(shí)體。它并不對廣大公眾負責，而是對它的所有者和利益相關(guān)者負責。但如今，它們成為了數據治理最重要的技術(shù)提供者，直接參與提供大量的社會(huì )公共服務(wù)，因此，它們的角色越來(lái)越像公共事業(yè)公司。

不僅如此，薩斯坎德認為，越來(lái)越多的權力集中在控制技術(shù)的科技公司手中?？梢哉f(shuō)，這些經(jīng)濟實(shí)體第一次擁有了強大的政治力量。所以，如何約束它們的行為非常關(guān)鍵。

沈辛成提到，在美國，比起行政約束，龍頭企業(yè)們視開(kāi)源共享和自下而上的行規約束為最好的管控手段。如果有足夠多的程序員和開(kāi)發(fā)者能夠共同目擊、監督算法的制造，就能夠確保各大科技企業(yè)所開(kāi)發(fā)的模型和算法是相對透明的。此外，邀請更多元的主體參與這一過(guò)程，盡可能保證高質(zhì)量、高透明度的公平公正。

北京大學(xué)社會(huì )學(xué)系教授邱澤奇在《科技向善：大科技時(shí)代的最優(yōu)選》一書(shū)中也做了相關(guān)問(wèn)題的解答。在他看來(lái)，未來(lái)企業(yè)要和政府共同承擔規制責任，而不僅僅是產(chǎn)品責任。

科技產(chǎn)品的迭代速度遠遠快于工業(yè)時(shí)代產(chǎn)品的迭代速度，意味著(zhù)用戶(hù)始終會(huì )面對新的科技產(chǎn)品，并不知道產(chǎn)品在什么時(shí)候產(chǎn)生負面效果。他認為，在這種情況下，公司要采取告知、引導、預防和解決等一系列措施。并且，這不是針對單一產(chǎn)品而言的，而是面向不同的科技產(chǎn)品，有一套解決問(wèn)題的機制和策略。

他還提到，在未來(lái)科技產(chǎn)品研發(fā)時(shí)，可以更多地邀請專(zhuān)家參與，對一些問(wèn)題進(jìn)行前瞻性研究。這么做的優(yōu)勢是，當最新科技產(chǎn)品推向市場(chǎng)的時(shí)候，不僅有來(lái)自企業(yè)的技術(shù)告知和引導，還有來(lái)自專(zhuān)家的社會(huì )評估，作為第三方來(lái)承擔科技行業(yè)與社會(huì )、政府之間的溝通橋梁的角色，提供預防式的建議和策略，而不是像現在這樣，等出現問(wèn)題了才推出應急措施。

除此以外，邱澤奇也強調了政府責任。對于新出現的技術(shù)與應用，政府需要有比較深入和準確的了解，需要對它的社會(huì )影響有比較全面的評估。要達成這樣的目標，學(xué)界可以發(fā)揮很好的溝通和橋梁作用，還可以為企業(yè)在商業(yè)視角之外提供一個(gè)更為全面和客觀(guān)的社會(huì )視角。

不過(guò)，就現狀而言，他也指出，“第一是科技企業(yè)沒(méi)有對外開(kāi)放，第二是學(xué)界對這些領(lǐng)域的研究還不太重視，不認為這是他們的責任。其實(shí)，很多新問(wèn)題是理論創(chuàng )新的源泉。無(wú)論是理論創(chuàng )新還是解決實(shí)際問(wèn)題，這樣的研究都非常值得去做”。

來(lái)源：《中國科學(xué)報》