字节跳动袁祥谈算法:价值观指导算法,反对低级、带血流量

文章正文
发布时间:2024-09-10 01:20

“算法”再先进,也不能离开人的驾驭。近日,由中国网络空间研究院指导、《网络传播》杂志主办的第十六期“网络传播沙龙”成功举办,字节跳动公共政策研究院执行院长袁祥在沙龙现场以具体实践为例,带来了他对算法的思考。

以下为部分演讲内容:

我们深知信息传播与新科技发展紧密联系。在移动互联网时代,如何用好先进的信息技术特别是人工智能技术,消除信息鸿沟,增进人类信息享用福祉,特别是在信息聚合和智能分发中强化导向意识,已经成为各个平台必须认真思考、努力实践的课题。

我认为算法是一种信息分发工具,指导算法的是价值观。《人民日报》发布的《人工智能推动“媒介生活”》一文曾经指出,即将到来的科技革命势必将“媒介生活”推向更加人性化的方向,人工智能将更好服务人类社会。我们在信息生产和分发的人工智能运用实践中越来越深刻地意识到:“算法”再先进,也不能离开人的驾驭,必须要为“算法”树立正确的价值导向和舆论导向。在平台内容生态建设上,算法解决效率问题,导向解决安全和质量的问题,只有双管齐下,才能保证信息分发平台成为正能量的传播平台。

互联网公司重视用户体验、重视流量,但也要旗帜鲜明地反对低级的流量、失序的流量乃至带血的流量。我们坚信主旋律和正能量更有生命力,认为任何算法都不应该抽离价值,都应是在主流价值驾驭之下的。我们努力给算法赋予主流价值观、构建主流价值引领下的信息分发和短视频传播生态。有了价值观指导的算法标志着算法进入了2.0时代,这是算法一次重大的优化、创新发展。为此,我们从产品、技术、团队等多方面进行了系统搭建:

一是设置正能量文章池,加强要闻和正能量内容人工干预。人工标注精品内容(主要是正能量内容),设置“正能量要闻池”,通过人工标注+算法推荐,完善首屏要闻推荐模式,让正能量的内容有传播力、到达率。

二是加大正面内容弹窗比例,让正能量强效抵达。加强正能量人工干预,每天向用户弹窗推送正能量信息,用户每次打开弹窗推送的新闻后,用户模型中的正能量维度将加权,之后在信息流中更易刷出相关内容。

三是全力打压涉嫌违规低俗自媒体账号。依据“自媒体八大乱象”标准,对低俗内容和账号采取强力打压,每月定期对外公布处罚账号名单,对违法违规、涉色情低俗和“标题党”内容采取“零容忍”,对封禁账号号召同业禁入。

四是建立正能量模型数据库、低俗模型数据库、谣言数据库。建立正能量模型数据库,提供更多优质内容供给;建立低俗模型数据库,通过人工标注+机器学习强力打压低俗内容;建立谣言数据库,通过站内外数据建立模型,打老谣、辟新谣,通过回溯、弹窗等方式进行精准辟谣。

此外,我们还加大了“人”的作用,建立人工+技术的审核机制,内容必须经过人工审核才能放出。一是建立技术过滤、人工审核、领导人双审、高热举报文章复审的“四审”工作机制,为信息安全提供充足保障。二是配备与企业规模影响力相适应的审核人力。三是积极发挥党员在内容审核、导向把关中的作用。审核人员要求全部具有本科以上学历,党员优先,必须经过培训方能上岗。

(原题《字节跳动袁祥谈算法:反对低级的、带血的流量 | 沙龙干货》)

首页
评论
分享
Top