国家四部委联合出手整治算法流氓 | 您中过招吗？

【中国绿发会讯】近年来，人工智能技术发展迅猛，深刻影响或改变着我们的生活、工作和社会结构。从媒体内容推送到购物推荐，从自动驾驶到智能家居，从医疗诊断到金融分析……人工智能技术应用场景日益丰富，其潜力更是无限，给人们带来了前所未有的体验和机遇，同时也带来史无前例的挑战。

图源：pixabay

人工智能的内在核心逻辑是算法，机器设备在智能算法的驱动下实现自主运行，变得聪明智慧。但是，当技术的便捷性掩盖了其潜在的危害时，我们必须要警惕“算法流氓”的崛起。

今年11月19日，农夫山泉创始人钟睒睒“炮轰”算法作恶——喊话抖音创始人张一鸣，指出有人利用科学、科技手段和技术能力，人为性地造成“恶”，宣泄心中的“愤怒”。11月22日，快手因未落实青少年模式，被公安机关警告处罚。11月24日，国家市场监督管理总局办公厅、公安部办公厅等四部门决定自即日起至2025年2月14日开展“清朗·网络平台算法典型问题治理”专项行动。内容聚焦网民关切，重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”等重点问题。

算法的本质，是一套复杂的计算规则，通过数据挖掘和机器学习，它能够预测、分析并影响人类行为。然而，算法的不透明性（即其内部逻辑和推理机制的不公开）使得我们难以窥见其真实面目。这种“暗箱”操作，不仅让公众难以对算法产生信任，更可能因数据偏差或人为干预而导致算法模型的推理演绎轨道发生偏移，引发一系列不良后果。

算法滥用，是另一个值得警惕的问题。通过大数据分析和个性化推荐，算法能够精准捕捉用户兴趣，但这也可能导致“信息茧房”的形成。在算法的世界里，女性群体爱娱乐八卦，男性群体关注财经时政，青少年更爱游戏，老年人更爱养生……看似中立的群体划分标准，却暗含了对用户群体的偏见。用户被大量同质化内容所包围，难以接触到不同声音，视野和思维变得狭隘，可能加剧社会分裂和偏见。此外，由于数据集的包容性问题，算法在训练过程中可能无意中强化了某些刻板印象和偏见，加剧了社会不公。

众所周知，人工智能之所以智能，关键在于算法的自主性，算法能够基于数理逻辑进行推理运算，并在人类未授权或者部分授权的条件下进行自主判断和决策。然而，算法缺乏感性的是非观念和价值判断能力，其决策过程往往只关注效率和结果，而不考虑人类的感受、道德和伦理。此外，算法的自主性也为虚假信息的生成创造了条件，甚至出现自主编造谎言，发布错误信息等问题。

面对算法流氓的威胁，我们必须采取更加积极有效的应对措施。

首先，加强算法监管是关键。监管机构应建立健全算法应用影响评估制度、算法透明制度和算法问责机制，必须要形成事前、事中、事后常态监管，做好伦理审查，确保算法在合法、公平和透明的框架内运行。同时，要加大对算法滥用的整治力度，清朗网络环境，保护消费者合法权益。

其次，技术创新也是解决算法问题的重要途径。科技创新必须要提高算法透明度；加强训练数据管理和使用，规范数据筛选和标注过程；简化算法模型参数，降低建模复杂度等措施，有效提升算法的安全性和可靠性。

最后，对算法的规范，归根结底还是对人的规范，要对相关从业者进行规范，我们必须要保持对人工智能技术发展的最基本的理智和敬畏之心，明确其技术边界和伦理规范。只有这样，我们才能真正做到科技向善，服务人类，而不是威胁人类，毁灭人类。

本文仅代表资讯，不代表平台观点。

欢迎转发（请注明来源）。

文| Pierre

审核 | 橡树

排版 | 语

1、四部门出拳整治“算法乱象” 骑手们会从系统里挣脱吗？

2、“算法滥用”该清一清了