黃磊

《人物》雜志的一篇報(bào)道《外賣騎手，困在系統(tǒng)里》引起熱議，成為現(xiàn)象級稿件。外賣騎手在算法困境中不斷奔波在生死時(shí)速的邊緣讓人感慨、令人同情。在文章成為現(xiàn)象級稿件的背后，還有著人們在信息時(shí)代下由人及己、由此及彼的焦慮。當(dāng)算法偏離法理和倫理，這種失控狂奔將會把我們帶入何種境地，每一個(gè)個(gè)體是否都將陷于不同的算法困境中？

違法與超時(shí)的兩難困境

“快”是快餐行業(yè)的第一個(gè)字，是消費(fèi)者的核心訴求之一。從外賣平臺的角度而言，更快周轉(zhuǎn)增加成交量也是保證利潤高歌猛進(jìn)的關(guān)鍵環(huán)節(jié)。并且，從外賣行業(yè)競爭來說，“快魚吃慢魚”更強(qiáng)化了這種角力。故此，“比快”不僅是營銷宣傳點(diǎn)，也是盈利關(guān)鍵點(diǎn)和平臺角力點(diǎn)。

數(shù)字經(jīng)濟(jì)的到來，尤其是大數(shù)據(jù)處理、AI算法系統(tǒng)的運(yùn)用為推動(dòng)路徑優(yōu)化、實(shí)現(xiàn)時(shí)間壓縮提供了可能。正如《外賣騎手，困在系統(tǒng)里》一文中所敘述的，系統(tǒng)在接連不斷地吞掉時(shí)間，3公里送餐距離的最長時(shí)限從2016年的1小時(shí)到2018年的38分鐘，這種縮短就恰如極品飛車類游戲一般，不斷在取最高值中無限逼近理論值。

但這種極致算法并沒有考慮現(xiàn)實(shí)的法律限制，和法律法規(guī)發(fā)生沖突不可避免。2019年4月15日起正式實(shí)施的《電動(dòng)自行車安全技術(shù)規(guī)范》中新國標(biāo)要求最高時(shí)速不超過25公里/小時(shí)，而現(xiàn)實(shí)中大多數(shù)騎手的速度都是逼近電動(dòng)車的最高時(shí)速，即40公里/小時(shí)左右。即便在規(guī)范出臺后，限速裝置也經(jīng)常被拆卸、改裝。

倘若說國標(biāo)作為生產(chǎn)標(biāo)準(zhǔn)對騎手并無強(qiáng)制力，那闖紅燈、逆行、違規(guī)并道乃至碰撞他人導(dǎo)致交通意外，無疑違反交通法規(guī)。上海公安交警部門官方微信之前發(fā)布數(shù)據(jù)，2020年以來，上海公安機(jī)關(guān)共查處快遞、外賣騎手各類交通違法行為4.3萬余起。在深圳，僅2020年8月，全市就查處快遞、外賣送餐行業(yè)交通違法1.2萬起，占非機(jī)動(dòng)車違法案例總數(shù)的10%以上。

相對違法的恐懼，騎手們更在意的是超時(shí)的懲罰。在系統(tǒng)算法中，“按單計(jì)價(jià)”“翻倍超時(shí)罰款”“準(zhǔn)時(shí)率與接單優(yōu)先權(quán)綁定”“等級與獎(jiǎng)勵(lì)收入綁定”等，形成了一個(gè)密不透風(fēng)的運(yùn)算體系，超時(shí)意味著收入銳減甚至無單可接。但不超時(shí)則往往意味著要違法，況且現(xiàn)實(shí)生活終究不是電腦游戲，堵車、紅綠燈、雨雪天氣、信號不好等因素都可能導(dǎo)致超時(shí)發(fā)生。騎手們唯一能做的，就是把油門加到最大并忽視交通規(guī)則。

“違法還是超時(shí)？”對騎手來說是兩難的選擇題，題目背后隱藏著生計(jì)問題，違章大數(shù)據(jù)已告訴我們答案。但對社會治理來說，這個(gè)問題更像是一個(gè)論述題，背后隱藏的是價(jià)值位階問題。生命健康權(quán)無疑具有最高價(jià)值，在此基礎(chǔ)上才有進(jìn)一步探討自由、正義、秩序以及效率的空間。正因如此，只有正確認(rèn)識算法責(zé)任中蘊(yùn)含的價(jià)值原理，充分考慮社會實(shí)踐中的價(jià)值取向，才能形成正向的算法文化，推動(dòng)社會有序前行。

然而，算法的“強(qiáng)大”、利潤的迷惑以及法理規(guī)制的缺失，讓騎手們失控狂奔，本應(yīng)具有積極性、主動(dòng)性、創(chuàng)造性的人類，只被視為一組可以持續(xù)優(yōu)化的模塊。我們毫不懷疑智能時(shí)代算法具有的價(jià)值，但我們同樣質(zhì)疑，當(dāng)平臺決策者將人的因素物質(zhì)化、模塊化之后，同樣被吞噬的還有應(yīng)有的理性以及更可貴的人文關(guān)懷。

并未默認(rèn)的“默認(rèn)為”

據(jù)北京日報(bào)消息，北京市民周女士的微信賬戶突然被扣了52元，查來查去，她發(fā)現(xiàn)OFO季卡竟然還在自動(dòng)續(xù)費(fèi)，且其無法在客戶端取消自動(dòng)扣費(fèi)的功能，本想向OFO投訴，但聯(lián)系電話已成空號，而向第三方扣費(fèi)平臺投訴卻未得到答復(fù)。同時(shí)，還有律師稱只要用戶默認(rèn)應(yīng)用扣款、自動(dòng)續(xù)費(fèi)條款，應(yīng)用即可發(fā)起代扣，只要經(jīng)營主體存在，其對公賬號仍舊正常使用，便可發(fā)起自動(dòng)扣款。

“你默認(rèn)你活該，我扣錢我合理”顯然不能被民眾接受，“非但不還錢，反而變本加厲扣錢”被罵上熱搜。上一次OFO上熱搜還是2018年底，當(dāng)時(shí)現(xiàn)場退押金排隊(duì)人數(shù)接近千萬。

算法的“強(qiáng)大”讓騎手們失控狂奔（圖/視覺中國）

早已銷聲匿跡的小黃車，讓所謂的“季卡”變得名不副實(shí)，無法消費(fèi)的扣費(fèi)無異于欺詐。從合同義務(wù)來說，OFO早已違約在先并無履行能力，在這種情況下部分律師以合同未解除為由認(rèn)定自動(dòng)續(xù)費(fèi)有效顯然站不住腳，況且系統(tǒng)還變相剝奪了消費(fèi)者取消自動(dòng)扣費(fèi)的權(quán)利?！盁o救濟(jì)則無權(quán)利”，當(dāng)取消自動(dòng)扣費(fèi)和投訴都難以救濟(jì)時(shí)，相關(guān)企業(yè)就不僅僅是違約，甚至還有侵犯消費(fèi)者選擇權(quán)、救濟(jì)權(quán)之嫌。

存在同樣問題的不僅僅有OFO。主體業(yè)務(wù)不再經(jīng)營、應(yīng)用不再更新，但會員年費(fèi)、季卡仍在自動(dòng)續(xù)費(fèi)的，還有其他App。這種被稱為“懶人功能”的代扣業(yè)務(wù)做法其實(shí)被多種視頻、音頻應(yīng)用軟件及小程序使用，只需要消費(fèi)者一次綁定并予確認(rèn)，默認(rèn)續(xù)費(fèi)的代扣就自動(dòng)履行。雖然很多程序并不像OFO般無法關(guān)閉，但結(jié)果往往都是以消費(fèi)者遺忘關(guān)閉而導(dǎo)致扣費(fèi)，最終承擔(dān)風(fēng)險(xiǎn)的還是消費(fèi)者本人，畢竟，“消費(fèi)或者不消費(fèi)，扣款就在那里”。

利用人們思維路徑依賴和消費(fèi)習(xí)慣，進(jìn)行暗中挖坑的算法還有“大數(shù)據(jù)殺熟”。央視二套財(cái)經(jīng)頻道曾點(diǎn)名在線旅游平臺的“大數(shù)據(jù)殺熟”現(xiàn)象，提到相關(guān)平臺針對不同消費(fèi)特征的旅游者對同一產(chǎn)品或服務(wù)在相同條件下設(shè)置差異化的價(jià)格。從技術(shù)角度來說，“大數(shù)據(jù)殺熟”屬于定價(jià)算法，即銷售方通過大量數(shù)據(jù)的分析，掌握消費(fèi)者消費(fèi)習(xí)慣和心理承受的價(jià)格區(qū)間后，以可接受的最高價(jià)格將消費(fèi)者壓榨殆盡，最直觀的感受即“不同人不同價(jià)”“不同手機(jī)不同價(jià)”現(xiàn)象。

種種方式就像不少應(yīng)用中勾選、推定默認(rèn)的小伎倆，以及動(dòng)輒幾頁、十幾頁且是蠅頭小字的各種須知一般，表面上系統(tǒng)已經(jīng)履行了“告知義務(wù)”，并且將選擇權(quán)交給了消費(fèi)者，實(shí)際上消費(fèi)者除了打勾或者選擇不使用外，并沒有談判和議價(jià)的權(quán)利。所謂的“默認(rèn)”大多數(shù)情況下既沒有認(rèn)知，也沒有認(rèn)可。

通過算法極盡可能地追逐利益最大化并非個(gè)例。更不得不防的是，類似于定價(jià)算法的應(yīng)用可能使得商家之間達(dá)成默契壟斷協(xié)議，構(gòu)成“算法共謀”，在一次次的免密支付、無感支付、快捷支付中，侵害消費(fèi)者權(quán)益，擾亂市場秩序。

解鈴與系鈴的博弈

觸動(dòng)利益往往比觸及靈魂還難。面對騎手困境，某平臺所給的答案是讓消費(fèi)者選擇“是否愿意多等5分鐘”，看似充滿人文關(guān)懷的答案背后，實(shí)則是將自己應(yīng)當(dāng)合理優(yōu)化算法的義務(wù)，轉(zhuǎn)化為對消費(fèi)者的道德綁架。

相對來說，管理部門就更加有力。2020年10月1日起施行的《在線旅游經(jīng)營服務(wù)管理暫行規(guī)定》就針對“大數(shù)據(jù)殺熟”作出規(guī)定：“在線旅游經(jīng)營者不得濫用大數(shù)據(jù)分析等技術(shù)手段，基于旅游者消費(fèi)記錄、旅游偏好等設(shè)置不公平的交易條件，侵犯旅游者合法權(quán)益。”

誠然，相關(guān)規(guī)定具有推廣借鑒價(jià)值，但當(dāng)前的權(quán)利救濟(jì)框架顯然難以應(yīng)對算法時(shí)代帶來的巨大挑戰(zhàn)。其前沿的技術(shù)性和應(yīng)用的廣泛性特點(diǎn)使得算法侵權(quán)更為輕易也更為普遍，方式方法更加多樣且更為隱蔽，法律性質(zhì)更加復(fù)雜更難斷定，所產(chǎn)生的損害結(jié)果影響范圍更大、持續(xù)時(shí)間更久，相應(yīng)的救濟(jì)也變得更加困難。

比如就騎手與平臺的關(guān)系，天津市中院對一起勞動(dòng)爭議作出判決，認(rèn)定騎手與電商之間不存在勞動(dòng)關(guān)系，認(rèn)定理由是雙方簽有《合作協(xié)議》，并不具備勞動(dòng)合同的人身依附性;而西安中院對類似的勞動(dòng)爭議作出判決，則認(rèn)定騎手與電商之間存在勞動(dòng)關(guān)系，理由是騎手提供勞動(dòng)并接受管理，送餐工作屬于經(jīng)營范圍。不同的判決顯然不利于民事主體權(quán)益的維護(hù)，況且這還是騎手與平臺雙方的直接關(guān)系，如果加上消費(fèi)者以及餐館等多個(gè)主體，民事關(guān)系難免會更加錯(cuò)綜復(fù)雜。

且從算法本身來講，它有別于靜態(tài)的、格式化條款或者規(guī)則，在豐富的數(shù)據(jù)資源和人工智能不斷發(fā)展的現(xiàn)狀下，算法會不斷演化進(jìn)化，甚至變成算法開發(fā)者或使用者都無法解釋的自主化算法，這使算法由原本的“執(zhí)行者”變成“決策者”，不僅使政府監(jiān)管、市場監(jiān)管變得更難，同時(shí)也對傳統(tǒng)的法學(xué)理論拋出了難題。

算法透明是監(jiān)管的前提，但囿于兩方面原因讓算法透明變得異常困難。一是部分公司企業(yè)將算法列為商業(yè)機(jī)密，以知識產(chǎn)權(quán)的方式讓算法系統(tǒng)難以窺探;二是在技術(shù)門檻方面，相關(guān)監(jiān)管部門沒有足夠的技術(shù)支持。但可以肯定的是，基于這種算法自動(dòng)化決策的不透明性和應(yīng)用的大規(guī)?；謾?quán)風(fēng)險(xiǎn)會加大，所帶來的損害也會大大增加。

算法系統(tǒng)所帶來問題的背后，與其說是程序研發(fā)的技術(shù)問題，更不如說是價(jià)值觀問題，技術(shù)、程序可以說沒有立場，但算法背后的研發(fā)者、管理者卻不能沒有社會責(zé)任感。從責(zé)任體系來說，企業(yè)負(fù)有對算法的設(shè)計(jì)、應(yīng)用的全程監(jiān)管、控制及修正義務(wù)，同時(shí)基于算法系統(tǒng)直接或間接關(guān)系到廣大民眾的生命、財(cái)產(chǎn)、健康問題，故相關(guān)公司需要承擔(dān)與違法行為、違法結(jié)果相匹配的“嚴(yán)格責(zé)任”，在歸責(zé)上應(yīng)當(dāng)采取無過錯(cuò)責(zé)任。

但“解鈴還須系鈴人”，在專業(yè)化的巨大鴻溝下，對算法治理的落腳點(diǎn)和最終依托還需要回歸到企業(yè)，回到以算法規(guī)則進(jìn)行制衡。從社會治理角度而言，企業(yè)自律是基石，需要通過行業(yè)規(guī)范等方式修正“唯利益化”的算法價(jià)值觀，融入企業(yè)社會責(zé)任、國家的法律法規(guī)。在此基礎(chǔ)上，媒體、監(jiān)管部門、法律的外部監(jiān)督與約束也不可或缺，需要同步建立起滿足事后救濟(jì)、事前預(yù)防兩大傳統(tǒng)功能的責(zé)任體系。

當(dāng)前，我國雖尚未出臺專門法律法規(guī)，但全面將算法規(guī)則納入監(jiān)管領(lǐng)域，并針對算法技術(shù)性特點(diǎn)進(jìn)行法律規(guī)制已是大勢所趨，隨著立法水平的提升和司法實(shí)踐的豐富，相信相關(guān)立法也能夠逐漸完善，進(jìn)而在法律框架內(nèi)實(shí)現(xiàn)對算法的良好駕馭，形成社會、企業(yè)及個(gè)人的多贏局面。