当前位置: 首页 » 要闻 » 大数据杀熟、信息茧房、诱导沉迷 …… 算法推荐能否告别野蛮生长?

大数据杀熟、信息茧房、诱导沉迷 …… 算法推荐能否告别野蛮生长?

要闻

天津北方网讯:六成民众认为自己的信息在数字环境中有泄露的风险。

近七成人感到自己的喜好和兴趣等隐私问题被算法“算计”。

近五成公众表示在算法束缚下想要逃离网络、远离手机。

近七成公众表示“我担心账号和个人信息泄露”。

五成受访者担心“下载的手机客户端(App)不安全”。

近七成公众表示“我担心账号和个人信息泄露”。

3·15前后,多个互联网平台的大数据服务问题又站到了舆情“C位”,由其引发的“杀熟”“诱导沉迷”等现象,再次成为多地3·15晚会曝光的焦点。曾几何时,“猜你喜欢”,你的手机比你自己更懂你……是大厂大平台们引以为豪的卖点,没想到现如今却成了令人生畏的“槽点”。越来越多的人意识到,在享受算法推送的便捷时,却反被算法捆绑与吞噬,暴露了隐私,失去了选择的自由。

大数据搭建信息“茧房”

家住南开区的林女士告诉记者,前段时间她差点儿抑郁了──每天,她的手机弹窗时不时就会弹出一句“最爱的父亲突然车祸去世,感觉没有活下去的勇气,我该怎么办?”,要么就是“妈妈突然离开了,整个世界都变成了灰色,我该怎么办?”“男朋友突然……”,总之是各种最亲的人以突然的方式离开了人世,提问者急切等着她的回答才能生存下去。

林女士沉浸在各种悲哀里,整个人都不好了。她一开始还纳闷自己并非心理医生,也没有类似的人生体验,为啥会被这样的信息和提问狂轰滥炸呢,想了又想才恍然大悟,原来,此前一个月,她在某知识平台上,看到一个网友悲痛欲绝地倾诉自己突遭丧母之痛几乎崩溃的心情。她一时产生共情,就回复了一段话,勉励他尽快走出来,告诉他要多运动、多晒太阳,要想办法转移情绪。

“或许就是这个回复,被后台的大数据抓取住了,并给我圈上了一个‘专解各种生离死别’的人设吧!”她赶紧去找始作俑者的那条回答,毫不犹豫地删除,这之后那些莫名其妙的提问才慢慢消失。

“在网上,你甚至不能表达自己的情绪。”林女士心有余悸地说。

不仅仅是情绪、爱好, 在一些互联网平台上,你的年龄、性别也已成为它们瞄准的“靶心”。很多40+女性多半会收到:一旦人老珠黄该如何拴住他的心、你对年龄恐慌吗,以及驱之不绝的王菲、许晴、李若彤、小陶红、马伊P等明星的靓照和各种“保鲜”秘籍,随之而来的相关食品、用品推销更如滔滔江水。可如果你是“00后”,话术、视频图文又是另外一套:JK制服、去青春痘、手办等等。总之,算法面前,你无处遁形。

在移动互联网时代,每一个人都在生产“数据”,这些“数据”被平台硬性采集已非常普遍。平台方采集之后,会通过算法分析得出你的行为、习惯和喜好,进而精准地提供信息、娱乐、消费等各类服务。平台方如此“投其所好”,不断“投喂”,久而久之,你就会像蚕蛹一样被束缚在“茧房”里,只听(也只能听)自己感兴趣的东西了。

大数据“杀熟”于无形

“看这条裙子,都是一样的东西,他们家比别人家贵100多元钱。”而就在几个月前,高女士还是这家网店的至尊VIP,享受店内最高等级折扣,在该店的点淘直播间,可以领取只有“挚爱粉”才有资格领取的“挚爱粉优惠券”。是什么改变了高女士对这家店铺的看法呢?

原来,去年“双11”期间,在该店铺的买家微信群里,有淘友复制了一个抖音链接,称该店铺在抖音账号上的产品价格比店铺会员划算很多。

“之前在点淘直播间领了‘挚爱粉优惠券’,叠加活动满减,一条裙子是898元,但抖音直播间的价格竟然只有700多元钱。”看了这个价格,高女士感觉很不舒服,不禁有种受骗的感觉。

“‘挚爱粉’不仅需要多购物,而且要每天做任务,是经过很长时间的积累才能升上去的。”随后,高女士去抖音直播间大致浏览了一下,发现当期新品几乎每件都比作为店铺至尊VIP的价格更便宜,这让她觉得之前在该店铺倾注的喜爱突然不值一提。

几位淘友与高女士有同感。一位淘友还在店铺上新日当晚点淘直播间留言询问“为何抖音直播间价格更低”,店主当场矢口否认,并言之凿凿称“怎么可能呢?绝对不可能”。随后,提出问题的这位淘友微信群反馈其在点淘直播间上被禁言了。紧接着,她又发现,这家淘宝店铺在她再次购物时,拒绝发货。

细心的淘友也发现,在这家店铺购物,上新价格看上去对老客很友好,但其实内藏玄机。另一位淘友也表示,该店铺混乱的价格机制会令人产生不安全感。

店家对“挚爱粉”的这份挚爱,让高女士“累觉不爱”,果断放弃。

遗憾的是,这种情况还挺多。就像有首歌唱的──“我最爱的人,反而伤我最深。”大数据“杀熟”,就这般“杀”于无形。

七成网民安全感较低

前不久,北京大学互联网发展研究中心联合360集团共同发起《中国公众“大安全”感知报告》,对我国公众的“大安全”感知进行了系统调查。报告显示,公众对安全的体感正在从传统的食品安全、出行安全、校园安全向人工智能安全、大数据安全、元宇宙安全等非传统安全领域延伸。公众在对社会环境和生活环境表现出较好信任感的同时,对数字环境的担忧较多、安全感较弱。

在非传统安全感方面,报告显示,公众在数字环境中的安全感最弱,且对网络大数据的分析显示,网民普遍对此表现出持续性负面情绪。民众在数字环境部分的安全感平均分才2.73分,对网络安全和数据安全的隐忧最为突出,具体体现在隐私泄露、网络攻击、网络系统安全、网络诈骗等问题中。

其中,网络的个人隐私是民众当下最为关注的安全问题。有六成民众认为自己的信息在数字环境中有泄露的风险,以算法推荐为例,近七成人感到自己的喜好和兴趣等隐私问题被算法“算计”,希望自己能够自由浏览网络信息,有近五成公众表示在算法束缚下想要逃离网络、远离手机。

而在数字环境涉及的问题中,应用程序这一项得分最低。五成受访者担心“下载的手机客户端(App)不安全”,只有7.35%的公众认为自己使用的应用程序“非常安全”。报告认为,这表明应用程序成为公众感知到数字风险的首要来源,这与近年来手机软件屡屡发生监控、盗刷、泄密等事件不无关系。

同时,公众对数据、内容和交往活动担忧的占比相对较高。报告显示,公众对个人信息保护担心的占比最高,近七成公众表示“我担心账号和个人信息泄露”,其次是关心客户端的安全来源,有五成公众表示“我担心下载的手机客户端(App)不安全”,亦有五成公众表示“我担心在网上被骗”,近四成公众表示“我担心网络中的谣言”。

报告还显示,公众在与数据环境安全相关的话题上怀有持续负面情绪,搜索与数据安全、网络安全相关的微博热搜并分析其词频,可以发现公众对“网络文明”“网络谣言”“网络诈骗”和“明星和粉丝治理”四类话题的讨论度最高。

而从内容主题上看,公众在基础设施、应用程序、数据、内容和交往几类问题上较为关注。其中,在应用程序层面,公众认为使用App时可能泄露个人隐私信息,也担心授权和使用环节存在“霸王条款”,侵害个人权益;在数据层面,公众主要对大数据“杀熟”、数据贩卖、算法服务等话题较为关注。

“杀熟”套路知多少

按常理说,商家对老顾客本应呵护有加才是,为啥一旦搬到网上,这个常理就给颠覆了呢?

在知乎上,名为“汇智动力IT学院”的网友给出了自己的分析:是因为互联网平台越来越高的获客成本。她的观点得到了很多人的认可。

10年前,投入互联网的一批先行者捷足先登尽享先发红利,当流量触及天花板之后,增量停滞不前,单个平台新用户的获客成本飙升,各厂之间就陷入了存量竞争的阶段。于是,就有了我们比较熟悉的各种补贴大战,平台方不断拉投资、找风投、拿赞助,无所不用其极,目标只有一个,那就是黏住尽可能多的用户,得到尽可能多的数据。

“圈进来的用户,慢慢养肥了,也就到了收割的阶段。”她写道,之前你薅到的羊毛,现在被悄悄地收回去。

而且,正因为现在的获客成本越来越高,“会做简单算术的小学生掰手指都算得出来,一个是昂贵的获客成本,一个是零成本的抬价‘杀熟’,哪个更容易美化财务数据报表?”作为一名IT程序员,她忍不住感叹:原本应该用于科技社会进步的大数据,现在转过头来宰割平台用户,颇有赛博朋克(即高技术、低生活的混乱感)的意味了呢……

这位IT程序员还列出了几种常见的算法“杀熟”套路:

1.自动续费。平台把取消自动续费的功能隐藏得深深的。她调侃:“这一点我倒有兴趣想学习学习,以后积攒小金库就靠它啦。”

2.区别定价。新用户享受福利多多,老用户没有福利也就罢了,还偷偷设定不同价格区间,同样的服务不同的客单价,“合着越是熟人坑得越狠呗?”

3.花样变现。本以为充了VIP就能享受优惠待遇,但现实残忍地告诉你:IP专属广告来了、视频中间插播广告来了,不想看广告?升级超级VIP!

给算法套上“紧箍咒”

令人欣慰的是,我国第一部以算法推荐服务为规制对象的部门规章──《互联网信息服务算法推荐管理规定》3月1日起正式施行。

这部被寄予厚望的新规,将算法推荐服务全面纳入了监管。针对广受诟病的信息茧房、流量造假、大数据杀熟等,都给出了明确的规范。

其中,新规鼓励算法推荐服务提供者“综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度和可解释性,避免对用户产生不良影响,预防和减少争议纠纷。”

这对于破开信息茧房是个利好。“人类有一种本能,那就是认同更符合自己观点的想法。而算法推荐加剧了这种效应,它迎合了用户的低阶信息需求,反复推送同质化的内容”,AI中台机构“闪马智能”指出,用户因为被同类信息包围,缺少不同视角内容的输入,思想将会越来越狭隘化,“现在的社会舆论撕裂问题,就有算法推荐的一部分‘功劳’”。

新规还要求,算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发,不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施影响网络舆论或者规避监督管理行为。

这让人瞬间“艾特”到了集资打榜、拉帮约架、买票倒奶等社会怪象。近年来,流量造假、网络水军等项目已形成产业链。一些算法推荐服务者在平台日常运营中,也会有意以算法来影响网络舆论、操纵舆论,以此开展营利活动。近日,国家网信办部署开展“清朗·2022年算法综合治理”专项行动。业内指出,防范沉渣再起,还得从根源上规范底层的算法服务。

新规更是明确要求:“算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。”

这条规定摆明是直指“大数据杀熟”的。互联网企业尤其一些大厂“看碟下菜”,暗中调价,割韭菜于无形的做法,现在终于有了管理的依据。

此外,新规还要求保护劳动者合法权益,避免被算法所“困”,并就保护未成年人、老年人等特殊群体的权益给出了精细化的规定,如不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息,不得利用算法推荐服务诱导未成年人沉迷网络等。

你的信息你做主

科技无所谓善恶,算法也绝非恶物,人们反感的主要是无形中被剥夺了算法的知情权和选择权。

正式实施的《互联网信息服务算法推荐管理规定》要求算法推荐服务者“应履行告知义务”,并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。

“有的平台就会说,这个算法是我的知识产权,是我的商业秘密,我不能公开。这些说辞都不能成立了。平台的算法要保证必要的透明性。”中国信息安全研究院副院长左晓栋说。

新规还明确保障用户的选择权、删除权等权益,要求平台通过向用户提供不针对其个人特征的选项,或向用户“提供便捷的关闭算法推荐服务的选项”,并提供选择或删除针对其个人特征的用户标签的功能,避免消费者被算法算计。

记者体验发现,目前很多App其实也有关闭个性化推荐的选项,不过入口很深,像迷宫一样,轻易找不到在哪儿关闭。部分平台甚至压根没有设置关闭按钮,或虽有关闭选项,但只能关闭一段时间;又或即便选择了关闭,广告等推送仍如雨后春笋般继续涌现。

因此,监管如何落地落实是关键。《规定》明确了要实现事前事中事后全流程、全链条监管,并强调算法推荐服务提供者如违反相关规定,会被处以警告、通报批评、罚款等,必要时还将给予治安管理处罚和追究刑事责任。

左晓栋指出:“强调主体责任非常重要。平台是算法推荐的使用者,因此只有把平台的责任压实,平台才有自觉性去落实法律法规的要求。”现在“紧箍咒”是有了,算法推荐是否就此告别野蛮生长?不妨拭目以待。(记者 苏晓梅 岳付玉)

2022-03-21

搜索