科技向善，莫讓算法“算計”人

來源：新華日報

□ 本報記者 許海燕 陳珺璐 黃勇

3月1日起，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》施行。我國首部專門針對算法推薦的法規(guī)，劍指“大數(shù)據(jù)殺熟”等算法治理痛點。如何讓人們擺脫被算法推薦“綁架”？如何讓購物平臺不再鋪天蓋地推薦“你的最愛”？

多個平臺聞令而行，

但仍有算法濫用

無論是打車、網(wǎng)購、叫外賣，還是玩游戲、看視頻、瀏覽新聞……大數(shù)據(jù)時代，互聯(lián)網(wǎng)算法已深入社會的方方面面。一套優(yōu)秀的算法能夠在幾毫秒內(nèi)響應成千上萬的并發(fā)需求、做出最佳決策，讓整個系統(tǒng)能夠同時服務這些用戶。

然而，南京白領黃佳覺得，網(wǎng)購電商的“精準推薦”讓自己感覺沒有隱私。她告訴記者，經(jīng)常是自己剛和朋友聊天或搜索、網(wǎng)購某個產(chǎn)品后不久，電商平臺就“鋪天蓋地”進行相應推薦，“有時瀏覽某個明星的八卦新聞，之后同類視頻就會撲面而來?！?/p>

新近施行的這一管理規(guī)定明確，應當向用戶提供便捷的關閉算法推薦服務的選項。3月3日，記者在微信、淘寶、京東、美團、抖音、餓了么等多個APP測試后發(fā)現(xiàn)，其均已提供“個性化內(nèi)容服務”關閉選項。在微信APP“設置”中的“隱私”一欄，在“個人信息與權限”項下可關閉個性化廣告推薦。淘寶APP在“設置—隱私”中的“廣告管理”和“推薦管理”里，均出現(xiàn)了關閉個性化推薦的按鈕。京東APP在“設置—隱私政策簡要版”中的“用戶個人信息權益保障”里，也有個性化廣告和個性化推薦的關閉按鈕。

不過，在眾多平臺聞令而行的同時，依舊存在不少算法濫用，讓人“糟心”。3月1日至5日記者調(diào)查發(fā)現(xiàn)，在一些旅游、打車等網(wǎng)絡平臺上，“大數(shù)據(jù)殺熟”現(xiàn)象仍時有發(fā)生。

“使用不同手機搜同一家酒店信息，顯示的價格還是會不一樣?！边@幾天，在蘇州工作的時潔正打算去無錫黿頭渚賞櫻，安排行程時發(fā)現(xiàn)仍然有“坑”。去年前往敦煌旅游時，相同旅店、同一平臺、同一種房型、同一天入住，她通過某軟件預訂旅館的費用比不常使用該軟件的同事多花了200余元，這讓她自此留了個心眼。

家住南京市雨花臺區(qū)的王曉雯，早上常常打車去河西上班，為此她買了滴滴平臺推出的“打車周卡”。上班5.8公里的路程，快車價格打八折后為11.4元，拼車價格拼成后是8.04元，拼不成則是13.89元的“一口價”?！霸绺叻逦覐膩頉]打到過快車?！?月3日王曉雯告訴記者，如果早高峰在打車頁面只選擇快車，往往等上半個小時都沒人接單，但在選項中加上拼車后，等幾分鐘就會有司機前來?！案蓺獾氖牵悄芷吹酵巳司退懔?，確實能便宜點。但總是直到終點車上都只有我一個人，只能按‘未拼成’算價，這樣就比打快車貴了兩塊多。”

北京市消費者協(xié)會近日發(fā)布的互聯(lián)網(wǎng)消費大數(shù)據(jù)“殺熟”問題調(diào)查結(jié)果，也顯示算法濫用現(xiàn)象依舊存在：86.91%的受訪者認為自己有過被“殺熟”的經(jīng)歷；在對16個平臺進行的32個模擬消費體驗樣本中，有14個樣本新老賬戶同時購買相同商品(服務)的平臺標價不同，涉嫌侵犯消費者合法權益。

完善算法，

維護眾多從業(yè)者權益

網(wǎng)約車司機、外賣小哥們期盼的則是，無論算法多復雜，最好讓他們能多賺些錢，別讓他們流汗又流淚。

開了10年出租車的南京人劉永，于2018年“轉(zhuǎn)行”成了一名滴滴司機，剛開始每個月怎么跑都能掙1萬多元，可近兩年來他發(fā)現(xiàn)，想要月收入過萬越來越難?！蔼剟罱鹪絹碓缴?，扣分事項卻越來越多?！眲⒂栏嬖V記者，按照公司規(guī)定，司機的信用分越高，被派單的可能性越大，成功接一單能拿到0.2信用分，但只要被投訴一次，直接5分起扣，“逼得你只能不停地跑”。

此外，所謂的“接單沖獎”也讓滴滴司機們頭疼。拿早高峰舉例，司機們在完成基礎訂單數(shù)后，每完成3個訂單便會得到金額不等的獎勵金。但不少司機反映，在獎勵金單數(shù)快完成時，平臺往往會派一個耗時長的單，司機也只能硬著頭皮接下來——拒接同樣會扣信用分?！澳阍诔菛|就給你到城西的單子，你在市區(qū)就給你到鄉(xiāng)下的單子，反正讓你拿不到獎勵金?！钡蔚嗡緳C周蕙跟記者“吐槽”道，感覺自己被“算計”了。

按照平臺的規(guī)則，早高峰期間如果一單拼到了多人，司機可以按照拼單人數(shù)計算單數(shù)，這樣一下子就能達到獎勵金要求。“然而我們司機只能等平臺派單，來什么都得接著。”周蕙說。

至于外賣平臺，其算法大多一味追求“效率”，讓送餐員處于“系統(tǒng)”的壓力之下。午餐、晚餐時段多頭催促，有時外賣小哥們趕到餐飲店，菜品卻還沒準備好；有時平臺派單不科學，小哥去遲了，菜品變涼又影響消費者體驗。

而新管理規(guī)定的施行，有望逐漸改變上述種種不合理現(xiàn)象。記者注意到，新規(guī)中特別提出，算法推薦服務提供者向勞動者提供工作調(diào)度服務的，應當保護勞動者取得勞動報酬、休息休假等合法權益，建立完善平臺訂單分配、報酬構(gòu)成及支付、工作時間、獎懲等相關算法。

“相較于互聯(lián)網(wǎng)平臺，網(wǎng)約車司機、外賣小哥們處于弱勢地位，這些條款的提出，有助于提升他們的生存和工作環(huán)境?！北本┦械沦t(南京)律師事務所主任韓家佳告訴記者，比如在有明確獎勵機制的前提下，互聯(lián)網(wǎng)平臺利用信息優(yōu)勢減少司機的派單量，在實際操作上其實是一種不誠信行為，但這種侵權和不公平是非常隱秘、難以發(fā)現(xiàn)的。

取證難、維權成本高，

難題待破解

算法濫用的本質(zhì)，是商家利用算法以牟取自身最大經(jīng)濟利益為導向，進行所謂“大數(shù)據(jù)殺熟”、誘導消費等。然而，這方面維權取證難、維權成本高。

韓家佳介紹，我國此前出臺了《電子商務法》《個人信息保護法》，《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》的施行旨在從不同角度對“大數(shù)據(jù)殺熟”現(xiàn)象進行遏制。

“這一管理新規(guī)提出，算法背后的價值取向也要符合倫理規(guī)范。”韓家佳舉例，假設某電子商務平臺存在“大數(shù)據(jù)殺熟”，但其商品推薦算法是由第三方提供的，通過《電子商務法》無法對第三方平臺做出限制，但新規(guī)明確，提供算法推薦服務的第三方主體也不可以提供違反公平原則和誠信倫理的算法推薦服務。這可謂從“源頭”解決問題。

他講述了一個典型案例：浙江紹興的胡女士通過某商旅平臺預訂了一家酒店房間，結(jié)賬時發(fā)現(xiàn)，通過平臺支付的房費比該酒店實際房價高近兩倍，而她是該商旅平臺的高級會員，本可以享受8.5折優(yōu)惠。胡女士懷疑這家商旅平臺存在“大數(shù)據(jù)殺熟”行為，遂將其告上法庭。去年7月，法院一審對原告“退一賠三”的請求予以準許。這起案件被眾多媒體稱為“大數(shù)據(jù)殺熟”第一案。

在現(xiàn)實生活中，很少有人在遭遇“大數(shù)據(jù)殺熟”后會像胡女士一樣拿起法律武器維權，因為取證難、時間成本高，而補償并不高。對此，韓家佳呼吁，一方面相關行業(yè)協(xié)會、公益組織應向普通人伸出援助之手，以公益訴訟等方式制止違法、挽回損失；相關部門也要更加積極主動進行監(jiān)管，落實面向全社會的便捷、友好的投訴、舉報機制。

新施行的管理規(guī)定也提出，算法推薦服務提供者向消費者銷售商品或者提供服務的，不得根據(jù)消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。對違反相關規(guī)定的，由網(wǎng)信部門和電信、公安、市場監(jiān)管等有關部門依據(jù)職責，按照有關法律、行政法規(guī)和部門規(guī)章的規(guī)定予以處理。對此，多位法律界人士認為，要讓新管理規(guī)定“長出牙齒”，需要相關監(jiān)管部門強化其落地執(zhí)行，市場監(jiān)管等部門需進一步出臺配套政策、細化懲處措施。

多方攜手，

用好算法提高服務水平

“算法技術本身并無好壞之分。”在南京大學計算機系一位資深教授看來，算法給人們生活帶來了便利，比如網(wǎng)約車平臺利用算法及時響應叫車需求，改變了偏僻地方難打車的困境，提升了行業(yè)服務水平；但另一面，如果未受到有力監(jiān)管約束，平臺也會利用算法追求高額利潤，在周邊明明有便宜車的情況下推薦高檔車，這便是“算法作惡”?！皯喾綌y手，用好技術‘向善’一面，提高行業(yè)服務水平，更好地造福人類。”

江蘇省消保委工作人員徐悅介紹，中消協(xié)確定2022年消費維權年主題“共促消費公平”，其中一個重要內(nèi)涵就是“科技向善”。新規(guī)出臺后，如何用好算法技術創(chuàng)造更美好的生活？一些企業(yè)的做法值得借鑒。

“蘇州本輪疫情發(fā)生后，我們通過優(yōu)化算法，使得送貨員配送效能提高了不少?！?叮咚買菜江蘇事業(yè)部負責人顏現(xiàn)富介紹，首先在采購端加大供應，日配送能力從平時的100萬件提升到150萬件。尤其是疫情發(fā)生后前幾天，米、面、油、蔬菜訂單激增，叮咚買菜及時調(diào)配資源，優(yōu)先保證蘇州區(qū)域供應。其次，數(shù)據(jù)驅(qū)動，在送貨端也發(fā)揮了不小的作用?！八拓泦T的送單量有限，當出現(xiàn)運力實在不足的情況，線上下單便會被暫時鎖定，等恢復運力時才能繼續(xù)正常下單?！?/p>

“在數(shù)字化過程中，我們更多聚焦‘為用戶提供更好的產(chǎn)品和服務’。”途牛旅游網(wǎng)研發(fā)中心總經(jīng)理顧啟寧介紹，比如，在建立產(chǎn)品畫像并輔助產(chǎn)品生產(chǎn)的過程中，主要是通過產(chǎn)品全方位、細粒度畫像數(shù)據(jù)，用人工和系統(tǒng)的方法建立產(chǎn)品標簽，再通過產(chǎn)品標簽數(shù)據(jù)來協(xié)助產(chǎn)品設計，讓旅游產(chǎn)品更適應用戶需求。

同程旅行相關負責人介紹，他們通過不斷優(yōu)化算法，打造更好的“慧行系統(tǒng)”，方便顧客便捷出行。比如，用戶一旦遇到交通臨時停運的情況，通過“慧行系統(tǒng)”輸入從A地到B地的需求，就能獲得“機+火”“機+汽”“火+汽”等出行解決方案。

算法不是造成行業(yè)亂象的根本原因，關鍵還是在于如何加強算法監(jiān)管、平臺如何履行好主體責任?！吧碳覍οM者進行用戶畫像、提供個性化服務，這些用心之處都可能為消費者帶來良好體驗?！毙鞇傉f，企業(yè)應正視消費者的知情權、選擇權，對算法的使用要堅守底線，不能一味逐利。同時通過監(jiān)管“讓算法少些算計”，保障消費者合法權益。

標簽：

推薦

財富更多》

動態(tài)更多》

熱點