算法推荐乱象层出不穷已然成为一把“双刃剑”

• 2021-08-30 15:05:39 来源：中国商报

如今，在互联网领域，算法推荐服务广泛应用在各类App及场景中，与此同时，利用算法控制热搜、流量造假等乱象层出不穷。8月27日，国家互联网信息办公室就《互联网信息服务算法推荐管理规定(征求意见稿)》(以下简称征求意见稿)公开征求意见，拟对上述乱象进一步规范。

算法推荐是把“双刃剑”

中国商报记者注意到，征求意见稿明确，所谓的算法推荐技术是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。

腾讯安全战略研究中心联合赛博研究院发布的《人工智能时代数字内容治理的机遇与挑战》报告显示，算法精准推荐已经占据信息流分发主导地位，算法能够实现数字内容聚合和精准推荐，快速匹配信息与人。基于算法的个性化内容推送在为用户提供精准化、个性化服务的同时，也带来了国家安全风险因素增高、不良信息泛滥风险增加以及传统权利保护难度加大等问题，已然成为一把“双刃剑”。

北京计算机学会数字经济专业委员会秘书长王娟对中国商报记者表示，随着平台海量数据的积累，大数据杀熟、安全数据权限、流量制造明星这些问题不断出现。一段时间里，互联网企业把问题主体甩给了算法，让问题的解决走向空洞，而征求意见稿将对这些新问题、新现象作出进一步规范。

互联网和游戏产业观察者张书乐对记者表示，通过算法进行的所谓兴趣推荐的行为一直被各种内容分发平台所热衷，而其所造成的用户进入信息茧房，被各种针对算法来设计的无营养甚至不良内容所包围的问题，也已呈现出普遍化的趋势。与此同时，也出现了优秀内容被雪藏、商业内容或不良信息被广泛呈现在各类受众面前，形成劣币驱逐良币的态势，这让一些通过算法进行内容优化或花钱获得排名的行为有了更大的施展空间。

上海财经大学研究员崔丽丽表示，互联网平台作为消除信息不对称的先进技术代表，有责任维持技术手段的客观性，反映流量的自然状态，呈现真实的公众意见。不应该因为商业利益的驱使在流量上作假。过去曾发生过一些涉及到商业利益的新闻、信息被操控的情况，这样获取的商业利益是一种市场不公平的表现，甚至是不合法的。

提出算法“向善”新要求

根据征求意见稿，管理规定将适用于在境内应用算法推荐技术提供互联网信息服务的公司。这也意味着，以内容推荐算法为核心竞争力的短视频平台、UGC(用户生产内容)平台、推荐内容或是广告的电商和社交平台等主流互联网公司和平台的算法推荐技术都包含在此。

崔丽丽表示，不论是UGC还是PGC(专业生产内容)平台，内容的审核以及对于受众的推荐实际都有相应的规则，互联网信息平台已经在形态上取代了过去的传统媒体，因此，可能具备了一定的公共设施属性，所以信息的产生、审核和分发应该符合公允、客观以及符合事实等要求。

征求意见稿指出，算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用“向上向善”。算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型。

王娟表示，征求意见稿对算法的主体价值导向、个人数据用途、行业自律等提出了算法“向善”的要求，提出了算法提供者备案责任，明确了算法推荐服务提供者作为落实算法安全的主体责任 ，还对算法推荐服务日志等信息提出了留存要求，留存期限不少于六个月，并在相关执法部门依法查询时予以提供，对回溯求证环节进行了加强。

征求意见稿明确，算法推荐服务提供者应落实算法安全主体责任，建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度，制定并公开算法推荐相关服务规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。

从用户的角度来看，算法对数据的交互模式也提出了很多要求。征求意见稿提出，算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。同时，算法推荐服务提供者应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能，以及不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。

而对于大数据“杀熟”等顽疾，征求意见稿强调，算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者合法权益，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。

网络热搜将被严管

近年来，网络热搜已经成为实时的舆情风向标和舆论的集散地，征求意见稿也特别对热搜作出了规范管理，明确算法推荐服务提供者应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容。

同时，算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号，或者虚假点赞、评论、转发、网页导航等，实施流量造假、流量劫持;不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施自我优待、不正当竞争、影响网络舆论或者规避监管。

王娟表示，征求意见稿对热搜、虚假流量可谓“重拳出击”，核心仍是围绕互联网不是法外之地，建立清朗网络空间、树立良好社会价值观，微博热搜榜等各类“带节奏”式资本叠加流量的运作模式将受到重大挑战。

不可否认，微博热搜榜一直是最受关注的热搜榜之一。新浪微博方面此前曾被两度约谈，热搜榜也被要求下线整改。去年6月10日，国家互联网信息办公室指导北京市互联网信息办公室，约谈新浪微博负责人，针对微博在蒋某舆论事件中干扰网上传播秩序，以及传播违法违规信息等问题，责令其立即整改，暂停更新微博热搜榜一周，暂停更新热门话题榜一周。

面对外界的质疑，微博也在近日发布了热搜管理规则，并对“花钱买热搜”“花钱压热搜”等质疑回应称，热搜根据微博用户的真实行为进行计算，并根据搜索量、发博量、互动量等数据指标，形成实时榜单。榜单算法中包含了严格的排水军和反垃圾机制，以确保公正客观。同时上半年热搜还将“减少娱乐占比”作为主要调控目标。(记者 祖爽)

标签： 信息内容 算法推荐 进一步规范 海量数据

推荐阅读

猜您喜欢