治理算法突出问题 平台和用户如何打破“信息茧房”?
2025-05-23 06:24 央视新闻客户端
武汉大学信息管理学院信息管理科学系教授:首要问题就是“信息茧房”,内容同质化。个性化推荐算法以用户既有偏好为导向,不断强化内容选择,这会使用户反复接触相似观点和信息,从而将自身困于“信息茧房”当中。这种封闭的信息环境会限制用户对复杂社会现实的全面认知,影响其对社会多样性的理解和包容。
第二个方面就是“劣币驱逐良币”,内容质量下降。推荐算法往往根据用户的点击率、停留时间这样的一些行为数据进行优化,这会导致部分创作者趋向于生产迎合眼球、情绪煽动甚至是带有误导性的内容。这样不仅导致优质信息被边缘化,也会使得平台内容生态趋向肤浅、碎片化。
第三个方面就是“算法黑箱”,缺乏透明度。目前大多数个性化推荐系统的运作机制对用户来说是不可见的,所以用户有的时候并不知道自己为什么会接收到特定内容。这种“黑箱”操作不仅削弱了用户对平台的信任,也使得算法有可能被用于操纵舆论、控制热搜,从而影响信息的公正传播。
第四个方面是诱导沉迷,导致伦理失范。有一些技术弱势群体,像未成年人和老年人,他们由于缺乏辨识能力和自控能力相对较弱,更容易受到算法推荐的影响。比如说未成年人可能在算法的引导下沉迷于短视频或游戏,影响学习和身心健康。