聲明：該文章由作者（吉吉影音）發(fā)表，轉(zhuǎn)載此文章須經(jīng)作者同意并請(qǐng)附上出處(0XUCN)及本頁(yè)鏈接。。

大數(shù)據(jù)和人工智能技術(shù)日新月異，也使用戶畫(huà)像、算法推薦、精準(zhǔn)推送等定制化服務(wù)日益流行。但是，這些新技術(shù)和新應(yīng)用在為人們提供便利化服務(wù)的同時(shí)，也成為侵害消費(fèi)者權(quán)益的熱點(diǎn)領(lǐng)域。個(gè)人信息過(guò)度采集和濫用、“大數(shù)據(jù)殺熟”等問(wèn)題，成為近些年來(lái)人們廣泛關(guān)注的議題，也成為《個(gè)人信息保護(hù)法》（草案）的重點(diǎn)關(guān)注問(wèn)題。

8月17日，十三屆全國(guó)人大常委會(huì)對(duì)個(gè)人信息保護(hù)法草案進(jìn)行三審。草案對(duì)個(gè)人信息處理規(guī)則作出了進(jìn)一步完善，并對(duì)應(yīng)用程序（App）過(guò)度收集個(gè)人信息、“大數(shù)據(jù)殺熟”等問(wèn)題作出了有專門(mén)規(guī)范。全國(guó)人大常委會(huì)法工委發(fā)言人臧鐵偉指出，此次三審將明確界定利用個(gè)人信息進(jìn)行自動(dòng)化決策的概念，規(guī)定其應(yīng)遵循的基本原則，并明確個(gè)人信息處理者應(yīng)當(dāng)采取的措施和遵循的要求。

草案指出，用戶畫(huà)像、算法推薦等自動(dòng)化決策是指“通過(guò)程序自動(dòng)分析、評(píng)估個(gè)人的行為習(xí)慣、興趣愛(ài)好或者經(jīng)濟(jì)、健康、信用狀況等，并進(jìn)行決策的活動(dòng)”。比如，短視頻平臺(tái)根據(jù)用戶的瀏覽記錄等數(shù)據(jù)，為其精準(zhǔn)推送他們最可能感興趣的短視頻，就是一種典型的自動(dòng)化決策。

草案規(guī)定，自動(dòng)化決策應(yīng)當(dāng)遵循合法、正當(dāng)、必要、誠(chéng)信、目的明確、最小化處理、公開(kāi)透明、信息質(zhì)量、責(zé)任等個(gè)人信息處理原則，并以充分告知和知情同意作為應(yīng)用前提。草案明確，自動(dòng)化決策應(yīng)堅(jiān)持透明、公平、公正，不得在交易價(jià)格等交易條件上對(duì)個(gè)人實(shí)行不合理的差別待遇。與此同時(shí)，草案賦予個(gè)人選擇的充分權(quán)利，個(gè)人有權(quán)拒絕是否采用自動(dòng)化決策，而個(gè)人信息處理者不得以用戶不同意為由拒絕提供產(chǎn)品或服務(wù)。

如何防范“大數(shù)據(jù)殺熟”？

互聯(lián)網(wǎng)時(shí)代使個(gè)人信息成為整個(gè)社會(huì)關(guān)注的焦點(diǎn)，無(wú)論是個(gè)人隱私泄露還是“大數(shù)據(jù)殺熟”，都反映了個(gè)人信息保護(hù)的至關(guān)重要性，也使《個(gè)人信息保護(hù)法》（草案）的每次修訂和審議都萬(wàn)眾矚目也備受爭(zhēng)議。

一方面，自動(dòng)化決策為企業(yè)追求商業(yè)模式創(chuàng)新提供了巨大空間，也使消費(fèi)者可以獲得更加精準(zhǔn)高效的產(chǎn)品和服務(wù)。另一方面，一些企業(yè)“科技向惡”，濫用自動(dòng)化決策服務(wù)于商業(yè)逐利，嚴(yán)重侵害了消費(fèi)者權(quán)益。在如“巨獸”般的互聯(lián)網(wǎng)巨頭面前，用戶個(gè)人的力量是微弱的，所以來(lái)自法律的救濟(jì)也是必要的。因此，我們樂(lè)見(jiàn)《個(gè)人信息保護(hù)法》（草案）對(duì)個(gè)人信息過(guò)度收集、“大數(shù)據(jù)殺熟”等問(wèn)題予以針對(duì)性規(guī)范，盡可能使個(gè)人信息保護(hù)的天平向消費(fèi)者一端傾斜。

在大數(shù)據(jù)、人工智能技術(shù)等尚未普及的時(shí)代，商家“欺生”還是“殺熟”，往往取決于買(mǎi)賣(mài)雙方的信息不對(duì)稱、討價(jià)還價(jià)能力以及市場(chǎng)競(jìng)爭(zhēng)格局等因素。比如火車站、高速公路“路邊攤”等商家，往往認(rèn)定消費(fèi)者是“一錘子買(mǎi)賣(mài)”，加之判斷他們?nèi)松夭皇?，所以?huì)以次充好、質(zhì)次價(jià)高和坑蒙拐騙。

與之相比，對(duì)于以“回頭客”為主的商家來(lái)說(shuō)，考慮到多次博弈的可能性，就不敢如此放肆。從企業(yè)推廣獲客的角度來(lái)說(shuō)，為新用戶提供折扣等優(yōu)惠活動(dòng)是可以理解的，但是對(duì)老用戶“殺熟”卻是站不住腳的?！皻⑹臁敝詴?huì)發(fā)生，就在于企業(yè)利用了客戶對(duì)它的信任，所以一定程度上是一種不道德的商業(yè)行為，也很難長(zhǎng)久下去。

在商業(yè)世界也有所謂的“看人下菜”，就是根據(jù)潛在消費(fèi)者的購(gòu)買(mǎi)力來(lái)定價(jià)，進(jìn)而實(shí)現(xiàn)利潤(rùn)最大化。雖然“人不可貌相”，但是商家卻精于以貌取人，通過(guò)人們的穿著打扮、舉手投足、交通工具等來(lái)判斷并差別化對(duì)待。

新技術(shù)使得商家可以設(shè)計(jì)更加復(fù)雜的算法，更加隱蔽地對(duì)用戶進(jìn)行欺詐，因此“殺熟”等差別化對(duì)待就成為可能，并且日益呈現(xiàn)系統(tǒng)化、規(guī)模化和泛化的趨勢(shì)。比如，一些用戶反饋某些網(wǎng)購(gòu)平臺(tái)會(huì)根據(jù)用戶的使用年限、消費(fèi)記錄等數(shù)據(jù)，為其“量身定制”過(guò)高的價(jià)格。

一些消費(fèi)者反映使用蘋(píng)果手機(jī)購(gòu)物的價(jià)格偏貴，就是一種低級(jí)的“大數(shù)據(jù)殺熟”。這是因?yàn)锳pp可以輕松判斷用戶使用的是蘋(píng)果手機(jī)還是其他高端手機(jī)，據(jù)此推測(cè)用戶的購(gòu)買(mǎi)力和價(jià)格敏感度，并有針對(duì)性地調(diào)高價(jià)格而賺取超額利潤(rùn)。

諸如此類的新應(yīng)用看似是商業(yè)模式創(chuàng)新，實(shí)則是一種“皇帝的新衣”，和過(guò)去的“欺生”或“殺熟”相比“換湯不換藥”，只不過(guò)其應(yīng)用的技術(shù)和手段更加隱蔽和復(fù)雜罷了。換句話說(shuō)，當(dāng)“計(jì)算”淪為“算計(jì)”時(shí)，科技就難以向善。考慮到“大數(shù)據(jù)殺熟”是一種隱匿性很強(qiáng)的欺詐，其背后的“算法黑箱”往往難以揭開(kāi)，因此需要采取更加有效的措施進(jìn)行打擊，才能避免科技進(jìn)步帶來(lái)的道德滑坡和福利損失。

首先，“大數(shù)據(jù)殺熟”是一種主觀故意的精巧設(shè)計(jì)，因?yàn)椴扇×讼到y(tǒng)化、自動(dòng)化、批處理的方式來(lái)執(zhí)行，任何人都可能是潛在的受害者，并可能因使用App而遭遇“算計(jì)”。

因此，這意味著需要內(nèi)部人的配合和舉報(bào)，才能發(fā)現(xiàn)“大數(shù)據(jù)殺熟”是否存在，并搜集可以將違規(guī)者繩之以法的有效證據(jù)。所以，《個(gè)人信息保護(hù)法》應(yīng)考慮建立“吹哨人”制度，效仿金融監(jiān)管領(lǐng)域的重獎(jiǎng)制度，鼓勵(lì)企業(yè)內(nèi)部人舉報(bào)“大數(shù)據(jù)殺熟”等違規(guī)行為。

其次，“大數(shù)據(jù)殺熟”之所以會(huì)浮出水面并廣受關(guān)注，同顧客的警覺(jué)和覺(jué)醒有關(guān)。一些人多次使用某種App后發(fā)現(xiàn)了背后的“貓膩”，甚至自費(fèi)搜集證據(jù)來(lái)揭露“大數(shù)據(jù)殺熟”。這意味著要加強(qiáng)App相關(guān)的消費(fèi)者權(quán)益保護(hù)，特別是通過(guò)宣傳教育來(lái)提升消費(fèi)者的維權(quán)意識(shí)和能力，使他們能夠拿起法律武器來(lái)維護(hù)自己的合法權(quán)益。與此同時(shí)，在治理“大數(shù)據(jù)殺熟”的初期，“職業(yè)打假人”可能也有利于對(duì)相關(guān)企業(yè)形成震懾，使他們不敢越雷池一步。

此外，要發(fā)展點(diǎn)評(píng)、比價(jià)、測(cè)評(píng)等第三方獨(dú)立監(jiān)督機(jī)構(gòu)，強(qiáng)化其對(duì)“大數(shù)據(jù)殺熟”等違規(guī)行為的外部監(jiān)督，使之成為政府監(jiān)管的有力補(bǔ)充。比如，最開(kāi)始電商網(wǎng)店往往注重“打新”而不顧顧客的權(quán)益，但是顧客點(diǎn)評(píng)機(jī)制建立以后，顧客反饋會(huì)影響商家的商譽(yù)、獲客和復(fù)購(gòu)，所以倒逼商家更加以顧客為中心。消費(fèi)者自覺(jué)吃虧而維權(quán)，但是往往因?yàn)椤按髷?shù)據(jù)殺熟”的專業(yè)性強(qiáng)而難以成功。一些比價(jià)和測(cè)評(píng)網(wǎng)站推出的專業(yè)服務(wù)，則使消費(fèi)者可以貨比三家不吃虧，也反過(guò)來(lái)倒逼App潔身自好。

最后，很多企業(yè)會(huì)以身試法地采取“大數(shù)據(jù)殺熟”等違規(guī)行為，同成本收益的理性計(jì)算有關(guān)?！按髷?shù)據(jù)殺熟”有很強(qiáng)的隱蔽性，被發(fā)現(xiàn)的可能性較低，但是獲取的超額利潤(rùn)卻很高，這使一些企業(yè)屢試不爽。為此，要提高《個(gè)人信息保護(hù)法》對(duì)“大數(shù)據(jù)殺熟”等違規(guī)行為的處罰力度，使他們能夠敬畏和尊重消費(fèi)者權(quán)益。考慮到這種系統(tǒng)化和自動(dòng)化的差別化待遇會(huì)對(duì)所有用戶帶來(lái)負(fù)面影響，因此應(yīng)提高量刑和處罰水平，通過(guò)一些標(biāo)志性案例的“天價(jià)罰單”形成行業(yè)警示效應(yīng)。

（作者馬亮為中國(guó)人民大學(xué)國(guó)家發(fā)展與戰(zhàn)略研究院研究員、公共管理學(xué)院教授，研究方向?yàn)檎畡?chuàng)新、數(shù)字治理與績(jī)效管理，出版有《目標(biāo)治國(guó)：官員問(wèn)責(zé)、績(jī)效差距與政府行為》《公共治理的向度》等著作。）

[超站]友情鏈接：

四季很好，只要有你，文娛排行榜：https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全，洞悉企業(yè)級(jí)服務(wù)市場(chǎng)：https://www.ijiandao.com/