“算法推荐出现乱象 我们需要什么样的“算法”？”

有同样的经验吗？ 在求职网站上填写关于工作喜好的调查后，网站会自动推送匹配岗位。 打开购物软件，发现页面上有很多最近检索或浏览过的商品。 在app上浏览养生新闻，之后经常收到养生知识、养生产品的广告推送……随着新闻技术的飞速发展、大数据的广泛应用，算法推荐技术让人们个性化、定制化、智能化更强的新闻传播。

算法的推荐，让网络平台越来越抓住顾客的心，让人们更容易、更准确地获取新闻，牢牢地吸引了顾客的观察力。 据不完全统计，目前基于算法的个性化拷贝推送约占网络新闻拷贝的70%。 算法推荐正在成为各个平台的“基本操作”，低俗劣质新闻的精准推送、“大数据杀熟”等混乱也日益凸显。

作为数字经济的重要推动力，算法如何实现更优质、更快速的发展？ 在移动互联时代，需要什么样的“算法”？

网络平台是否越来越“了解”客户？

“看完短片后，平台会自动推荐很多相关视频，很方便。 ’在北京某公司工作的陈辉是某网络对战游戏的“发烧友”，平时喜欢用手机看相关视频来提高操作水平。 随着刷短片的频率增加，平台推荐的相关视频越来越多，发现“有游戏攻略、英雄介绍、对战视频，EC平台还推荐鼠标、键盘”。

这些平台的自动推荐功能使用的是被称为算法推荐的技术。 这是一种通过人工智能分解和过滤机制，深入分解大量数据，完成新闻文案，与客户精确匹配的技术。

自1994年美国明尼苏达大学研究组发布首个自动推荐系统以来，算法推荐技术目前已深入到信息、社会交流、电子商务、短片、各搜索引擎等平台和网络应用中。

网络平台越来越“了解”顾客，极大地方便了顾客获取新闻，更容易引起顾客特别是青少年不同层次的成瘾问题。

“我说只看5分钟，结果是几个小时。 ”贵州省贵阳市的林忠信表示，他12岁的儿子最近沉迷于恶搞的短片，不仅影响了学习成绩，还减少了和朋友一起进行户外活动的时间。

从去年5月底开始，在全国主要的网络短电影平台上宣传青少年成瘾防止系统。 在“青少年模式”下，许多平台率先推送教育类、知识类等有益文案。 但是，在监护人照料监督不足的情况下，防中毒系统的效果容易下降。

一位答主反映，信息信息、网络社会交流等平台的个性化推送存在“泛娱乐化新闻多、低俗文案多、未经验证文案多”的“三个以上”现象。 网络社会交流等平台防沉迷手段少，容易导致青少年成瘾和盲目模仿。

北京大学中国社会与快速发展研究中心主任邱泽奇对记者表示，对自我的偏好是人类认识偏好的一部分，“偏好”浏览可能会加速“新闻茧室”效应和“情感感染”效应的形成，前者容易导致视野限制，后者容易感染他人

喜欢网购的人也有可能遭遇“大数据杀熟”而蒙受损失。 一个平台利用算法技术对不同类型的顾客数据“图像”，评价其偏好、顾客粘合度、价格敏感度等，使不同顾客看到的价格和检索结果不同。 老顾客看到的价格一般比新顾客高，或者搜索结果比新顾客少。

今年的“双11”期间，北京的客户韩国女性，在某个app上预约了酒店，用“同一时间，不同的手机”预约，发现价格相差约1000元。

9月中旬，根据微博上进行的投票，有1.5万人认为自己遭遇了明显的价格差异，占所有投票者的近8成。

“算法”是中性的，问题出在人体

算法技术的重要作用是，将以往基于人力的“寻人新闻”变为基于计算机自动化计算的“寻人新闻”，从而极大地释放人力，更有效地完成人与新闻的匹配。

从2004年开始，互联网平台今日头条率先将算法推荐系统应用于信息行业的产品，实现了系统的自动学习推荐。 据当今顶级算法架构师曹欢介绍，推荐系统将综合考虑文案特征、客户特征、环境特征等因素进行决策。 例如，环境特征包括在上班期间、上班途中、下班休息等不同场景下顾客有趣喜好的新闻。

为了帮助客户发现越来越有趣的地方，今日的标题引入了许多行业的高质量文案生产者，并使用算法向客户推荐。 推出“灵狗”的反低俗助手，消除低俗新闻。 推荐系统中还添加了重用和分解战略，旨在消除降低同一行业或主题副本推荐频率的副本推荐。

但是，在头部网络平台上严格自律，采编流程还不规范，管理不严格的互联网社会交流媒体、信息客户端偏离了业务导向。 第一表达方式:

——向客户推荐坏消息。 一些平台为了维护客户，不断向客户推荐关注的类似文案，其中夹杂着低俗风俗、色情暴力、真伪难以识别、深度不足、价值观错乱等新闻。 一点网平台为了增加点击概率和流量，进行了人工推荐，积极推荐“博眼”、“边球”的新闻，很多客户叫苦不迭。 这反映了平台缺乏社会责任感，忽视了价值观建设。

――提高客户权益保护的难度。 一点算法推荐的文案过于强化客户偏好，影响客户对新闻文案的自主选择权，加剧“新闻茧室”效应，容易引起个人与社会的隔离，缺乏对当前国情的深入认识和评价。 根据客户的阅读记录等数据，我们建议如果算法设计不当，也有可能侵犯客户的隐私。

――进行“大数据杀熟”。 中国传媒大学大数据研究中心教授沈浩表示，对算法来说，可以通过客户数据量和数据更新频率，轻松评估“生客”还是“熟客”。 结果，平台大赚特赚，损害商家、客户的利益，容易导致垄断。

作为技术应用，算法推荐是中性的，设计者、操作者存在问题。

另一方面，实践“流量至上”的单一价值观。 一个平台为了应对竞争，把客户的停留时间作为重要的评价指标，忽视了自身作为“关口”的作用定位。 并且，“相关熟人”必须运用积极健康、符合公序良俗的价值观，指导算法推荐的设计和应用，确保文案价值的正确导向。

另一方面，过分追求“好处至上”，利用该新闻的不对称性特征侵害顾客的合法权益。 这是一个值得充分重视的法律问题。

“一点算法的顶层设计思路存在问题。 ”中国社会科学院新闻化研究中心主任姜奇平对记者表示:“英国著名数学家、逻辑学家图灵等学者在绘制人工智能图景时，人与机器是对等的、双向的，但目前算法设计呈现的是人与机器的关系，这是个别的。 例如，在大数据方面，迷信关联被分解，因果分解被忽视。 在定义算法效率方面，只将专业化效率定义为效率，实际上多样性效率也是效率。

大数据、算法的推荐应该有更多的“温度”

一位网友最近在一个问答平台上表示，在一个社会交流平台上和朋友聊天时谈到吸尘器，随后这个平台上出现了扫地机器人的广告。 在投稿过程中，许多网友表示:“平台可以利用算法等技术，抓住顾客的聊天记录进行广告的准确发布吗？ ”。

app专业管理业务组专家何延哲今年9月表示，4部委app专业管理业务组在app多批次检测中未发现app有“窃听”行为。 但是，app的“窃听”在技术实现上有一定的可能性，相关部门需要决定公司在对“图像”进行大数据传输时是否可以采用个人语音新闻，让顾客放心。

从另一个角度看，舆论质疑指向的是大数据和算法等技术应用的价值观问题。 如何规范大数据、算法技术，使之更有“温度”、更放心？ 需要建立比较有效的监管体系、评价体系，让算法设计者、操作者以健康、准确、积极的价值观，引导算法的推荐设计和应用。

相关立法和监管需要加强，特别是要加强对算法推荐本身的法治监管。

例如，公开征求意见的《个人新闻保护法(草案)》，个人认为自动化决定对其权益有重大影响的，个人新闻解决者有权拒绝只用自动化决定的方法作出决定。

11月10日，国家市场监管总局发布的《平台经济行业反垄断指导原则(征求意见稿)》基于大数据和算法，根据交易对方的支付能力、费用偏好、习性等，确定差异交易价格或其他交易条件 对新老交易对手实行差异交易价格或其他交易条件的差异标准、规则、算法的差异支付条件和交易方法等，被认定为“大数据杀熟”等不正当竞争行为，可能面临更严格的监管。

北京大学电子商务法研究中心主任薛军告诉记者，为了应对算法运用的场景和对公民基本权益的影响，将对算法进行不同强度的监管。 除了法律规定需要更加确定外，还可以建立某种社会化的评议机制，评价平台运行算法的结果，要求平台基于公共价值进行优化。

巩固平台的社会责任。 曹欢表示，今天的头条并不完全依赖算法推荐，而是为了帮助客户进行有趣的推广，整合了“算法+热点+搜索+兴趣”的通用新闻平台。 客户也可以通过关闭“个性化推荐”按钮或“永久清除历史记录行为”来自主选择获取新闻的方式。

“应该在算法技术内阐述价值伦理，将做人作为技术本身来考虑，提倡公司在商业行为中履行社会责任。”姜奇平认为，算法推荐技术和平台的监管公平、效率、个人新闻的开发和保护、 他认为，在确保个人新闻与平台新闻等方面的平衡，促进数字经济服务业健康快速发展方面，可以根据个人化新闻服务收入与支付的平衡大致进行政策调整。 他建议，顾客评估新闻收集者的服务好坏，确保顾客始终处于积极的地位。

专家认为，监管部门应督促公司调整业务逻辑，将正面价值取向、顾客高质量追求作为重要标签纳入算法顶层设计。 政府、学校、家长、平台各方要共享责任，不断提高青少年网络素养。