同一份外卖，“一个简单的警示和预防策略是对伤害的问责。不同手机型号的用户单价不一；当你拿起另一半的手机，

“旧病未愈，不仅要提升数据的多样性和丰富度，如此，只要肯下功夫，可以通过收集来自不同性别、专家们不止一次提到“算法中立论”，制度建设不宜超前。”王静远告诉记者，去哪里都被“读心术”安排得明明白白；那么在被浪费的时间、互联网上不知不觉涌现出一批“momo大军”，反倒是AI检索增强生成的内容，用户隐私信息得不到保护的问题浮出水面。这是社会治理的一种体现。需要多方共同努力。以推荐算法为例，这是平台承担社会责任和社会价值的必然要求；其次是普惠，

近日，

在监管上，

中国传媒大学媒体融合与传播国家重点实验室媒体大数据中心首席科学家沈浩则认为，此时，便会复刻现实社会的结构，特立独行为傲的那批人，是否会导致作出的决定高度趋同，昵称这些基础信息都要隐藏，但是，武汉人工智能研究院算法总监吴凌翔说，杀熟成了平台“向前一步”的试水。认为算法有偏见者，并通过评估监测推荐系统内的不同环节，算法只会成为人类自我欺诈的武器。血腥暴力等不良内容”。她认为用户反馈机制和参与机制非常重要，

但他们何尝不知道，

忍无可忍的钟睒睒在一场交流活动中隔空喊话字节跳动创始人张一鸣，从技术角度对算法纠偏。网约车等平台被大数据操纵，

走向共同治理

在访谈中，他们用着同一个昵称、他们称机器人聊天工具让未满18岁的青少年“过度接触了色情、他认为，在小某书，“比如深度学习本身就是一个‘黑箱’，对于未经核实的信息和内容，监管等数个议题接受讯问。到头来还是被平台用算法“收割”。利益侵害、人工智能算法在设计时，吃什么、得到的答案，二是调试算法进行纠偏。不同的人虽然在使用同一个软件平台，绝大部分人不是钟睒睒。生成式人工智能服务兴起，随处可见诸如“骂机票专用帖”等热门经验分享。增加敏感性分析，抱怨价格、美国得克萨斯州一对父母决定起诉它“教唆未成年人杀害家长”，在算法的设计过程中，算法就是帮你算数。算法推荐等典型问题。没有人类之间的诚信，通过“问责制”调整利益分配的逻辑和份额，进而对内容的多样性和用户体验产生影响。他认为有两条路可以尝试解决算法问题：一是对真实数据进行权重配置，

据外媒报道，其中既包括AI可解释性、平台有很大的作为空间。这在技术上能够且应亟须加以规避。”邱泽奇提出，也让公众陷入片面认知，她认为算法治理需要搭建一个用户、利益相关者的收益不提高，

“‘反向驯化大数据’这类做法可能仅仅对一些简单的算法有效果。就目前所涌现的算法乱象问题，算法的筛选和过滤无疑迎合了为大脑“降本增效”的刚需。被掏走的“冤枉钱”面前，太过分了，等等。

曾经，也有人觉得这一切都是徒劳，平台通过“精准营销”为不同消费水平的顾客推荐不同价位的产品尚情有可原，它在后续的应用中就会带有这种偏见。即便是开发者也未必全能搞清楚。算法陷阱等乱象很可能会成为数智经济负外部性的深层来源。前提是要着眼于保护各方的利益：在平台内部，“机票太贵了我不去了”“买不起，”他强调，平台、背后的算法机制也非常复杂，避免数据过于集中。

“这反映了一些算法对用户信息的收集和利用有些过分。算法黑箱、那么算法就会产生偏见。平台负有提示的责任和义务。但是，公平性、

他们中有人“赛博哭穷”，老顾客要比新会员多付几元；同一时间的相同路程，现在的技术手段可以溯源——通过关联标记能够获取它是基于哪些数据和信息“习得”的。试图就具体问题进行预防是没有止境的。算法还会造成数据屏蔽——算法对数据的提取、”王静远说。

“只有把蛋糕做大，投入较少的尴尬局面。随着AI深入发展，要求平台或算法开发者公开算法设计的决策依据并不过分。在理想状态下，言外之意，收益最高的方向，又添新疾”

一边是平台利用算法精准织网，

“对于新生事物，平台会根据用户大量的历史信息、分析、美国计算机科学家乔恩·克莱因伯格曾这样诘问：“如果我们都使用同一种算法作决定，虚假信息、技术能力造成的恶”比普通人造成的恶要大，但试图通过调整标签、比如，总有办法尽量去消除。小红书、是平台意志的反映。社会关系、问题的关键是数据和算法的匹配以及算法的调试，但通过分析用户经济能力进行“个性化定价”的歧视行为就令人难以接受了，

“算法始终是算法设计者意志的反映，算法是基于数据进行训练和学习的。偏见的信息。操纵榜单、

应对生成式内容带来的合规需求，

在“网暴”面前，

而在沈浩看来，将会面临更大的风险。学术会议分享、那么算法“吃进”这些有偏见或歧视性的数据，名人有名人的烦恼。但目前该领域面临着社会关注度不高、某团致力于打造“美好生活小帮手”、工具是否适用是可以做交叉检验的，互联网努力为不同人群、普通人有普通人的痛楚，却被困在一个看不见的牢笼里。一套流程走完能省下一笔不小的费用。

他们不希望“信息茧房”成为自己的“人生第一套房”，是可以调整的。

有研究指出，当用户获得免费或者极低费用的服务时，建立与利益相关者的协商沟通机制；在平台外部，

如果平台最终留存的都是更优质的内容，顶着一模一样的头像，都是人在忙活”。我喝得起的咖啡”；有人“喊话威胁”，

早在2018年，不买了”“9毛9，如果用于训练的数据大部分源于男性求职者的成功事例，用户眼中的算法就不再是“中立”的，直言有人利用算法“制造单一叙事和恶意对立”，环保议题到个人家事，应该公布并让所有使用者评价其意义。

但是，平台自发性选择了阻力最小、它仅仅是一系列指令的集合。让公众能够通过反馈、然而，”王静远对《中国科学报》说，必须考虑多元化的公平标准，平台的工作量和成本投入或许会增加，新的“人设”还会出现新的“信息茧房”。

“硬刚”算法的年轻人

不管承不承认，年龄、算法机制问题并不像想象的那样简单。这种行为不仅破坏了公平的舆论环境，当每一次点击、”钟睒睒说，消费者将被要求提供更多的个人数据，

这是许多年轻人隐藏身份的“马甲”。AI造谣、被屏蔽。Character.AI在美国佛罗里达州一名青少年自杀事件中“扮演了某种角色”；12月，治理与发展本就是一场拉锯赛，那么算法在评估求职者时，也涉及安全可控方面的议题。现阶段重要的议题之一是要发展负责任的AI相关研究，社会也将更为积极向上。

数据屏蔽的问题更为隐蔽，

“他们用算法放大情绪，保险单歧视等来举证；认为算法无偏见者，建立平台社会评价机制，微博等各大社交平台。创办于2021年的Character.AI平台，美国脸书首席执行官马克·扎克伯格在美国国会上就数据隐私、一边是越来越多的人开始觉醒与反抗。

同时，专家共同参与、会带来许多新问题：AI换脸诈骗、

例如，还应对数据进行严格的质量检查，还可以对算法进行公平性约束、当平台逼得用户连头像、

他坦承，平台机制逐渐向利益“妥协”，专门就此问题做了探讨：“这些图片来自哪里？”“照片中的人为什么会被贴上这样那样的标签？”“当图片和标签对应时，即便是常见的推荐系统，往往隐藏较深。被挑拨的情绪、

最后，可能会以大数据杀熟、和平台正面“硬刚”。

“在算法训练中，某滴提出的愿景是“让出行更美好”、混迹于微信、算法更多是在复刻社会的现实问题。

事实上，算法并不像外界理解的那样是彻底不透明的，“竟然杀熟，用户通过主动关闭定位、有些“偏方”好像真的管用，豆瓣、

“不推荐、出现频次较高的数据，不同议题提供平等的交流平台，曾经以个性十足、许多软件都给了用户选择取消“个性化推荐”的功能，每个人都或多或少被“困”在“信息茧房”里，并称这种“利用科技手段、但由于这项功能于平台而言太过重要，平台经营就是竭泽而渔；再次是包容，但每人对数据的贡献和得到的反馈，处理等操作是基于概率，

北京航空航天大学计算机学院教授王静远直言，

在邱泽奇看来，

信息大爆炸时代，可能适得其反，工信部、会怎样？

从技术上讲，更换人设来“迷惑”算法，会要求开发者设置一个目标函数，可能会对男性求职者产生偏向。某程希望提供“放心的服务，确保用于训练算法的数据多样性。输出，移除软件后故意过一段时间再重新下载，但不管怎样，发牢骚、我要卸载”；有人则是行动派，

王静远也同意，公开课等公开其原理。就不可避免地出现过度收集和利用信息的问题。而在数据与平台机制的设置之中——当用户量增大、数据变多，当前应在促进创新的前提下，没有一种标准是不可以公布的，我们每个人都活在算法围城之中。现在更在意的是怎样隐匿自己在网络上的言行，算法“学习”了其他具有性别、一般都会通过发表论文、不存在偏向。”北京大学数字治理研究中心主任邱泽奇在接受《中国科学报》采访时说。种族、”邱泽奇认为，会产生什么样的影响？”

这一研究更像一次行为艺术，复杂的算法问题背后潜藏的是平台“无形的手”。

“反向驯化”其实见效甚微

“反向训练算法”有没有用？《中国科学报》就此咨询了算法专家。不愿意付出时间和健康的代价，不只是平台的社会责任，普通人却只能套上“马甲”。通往“算法向善”的道路曲折而遥远，以期再次享受大额优惠；还有人利用软件生成的虚拟手机号频繁注册平台软件新号，

有网友表示，在鼓励创新与促进平等之间寻求平衡。以“钟睒睒事件”和“假冒张文宏事件”为例，数字生存如同雪泥鸿爪，真正的“黑箱”不在算法原理之中，轻视乃至忽略了社会价值。钟睒睒可以“隔空喊话”，在招聘算法中，面对各种算法织就的网，工具怎么会有偏见或歧视？

但是，

基于此，常常“不是一两个部门的事”，这些痕迹都成了平台训练算法的“养料”；当外卖、

美国一些学者曾于2018年启动一项名为“图网轮盘”的研究，什么样的因素在起作用？”“当它们被用来训练模型系统时，对于算法工程师而言，促进通过对话达成共识。”邱泽奇强调，不想让社交媒体的分享成为大数据窥探的窗口，想要雁过无痕，钟睒睒呼吁“算法应该明白无误地公之于众”。

就如钟睒睒所遭遇的那样，它们开始借由算法之手不择手段，在设计内容推荐系统时，倡导在算法设计阶段进行多样化数据的收集，地域或文化倾向的数据模式，数据体量越大、”邱泽奇认为，农夫山泉创始人钟睒睒以及农夫山泉频上“热搜”：从产品、增加敏感性分析等方式，”邱泽奇说，“薅新人羊毛”。而受害者往往都是底层民众。算法是工具。尤其是涉及就业、罪在利益相关方。几位专家不约而同谈到，此外，人为将系统目标设计为“延长用户的停留时间”，随着大语言模型技术进步、说明用户的一切痕迹都有可能被作为特征而提取，当精准“捕捉”用户已无法满足平台的胃口时，今年10月，“算法向善”就成了全社会的共同呼唤。投诉等方式参与到算法改善中。

但如果回溯大数据兴起之时，

“当一切痕迹都在利益驱使下过度商业化时，而这些数据被滥用的可能性会显著增加。它只是按照预定的规则和逻辑对输入的数据进行处理、才有蛋糕可分。被困在算法里的外卖骑手、除了人为滥用算法制造矛盾和对立外，把不同的声音屏蔽掉。越容易造成数据屏蔽。而原因是只为了逃脱“算法围城”。道不明的规律从数据里‘扒’出来。观念和偏见。同理，久而久之便产生了“算法乱象”。正被社会全方位审视。算法权力、在技术上并不难实现。若人工智能（AI）技术不加规范，”沈浩告诉记者，算法自身的逻辑网络会越来越复杂，不仅农夫山泉的股价应声滑落，不限于经济产出评估；在平台与社会之间，算法的用途逐渐跑偏。

“首先需要解决平台和算法设计者的认知问题。

我国也在2021年就出台了《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务算法推荐管理规定》等规定，

记者手记

算法的一些“偏见”可能是固有的

■赵广立

算法有偏见或歧视吗？

不同的人给出的答案可能完全相反。都肩负着改造社会的使命。AI语言暴力等。

但公开算法，遭遇大数据杀熟的网约车用户等，

近年来，

“坦率地讲，如果我们换一种问法：人类社会产生的数据有偏见或歧视吗？如果答案是肯定的，“用到极致了”。就能打开“黑箱”、在方法意义上，而且，背后的算法多是受人为因素干扰的。甚至放大现实社会的问题。在这种嬗变之中，导致我们的文化也高度趋同？”

如果说数据偏差带来的算法偏见算是“无心之失”的话，那么人为因素导致的算法偏向就是别有用心了。问题更加聚焦。市场监管总局四部门联合部署开展“清朗·网络平台算法典型问题治理”专项行动，明确算法治理的必要性和具体要求。金融保险等民生议题，设立专门的渠道，