光明日报:为算法植入价值观

算法不是洪水猛兽,沉浸度好的传播产品也绝非等同于白粉摇头丸。

正如蒸汽机和电力一样,人工智能正在重塑我们的世界。算力的提高、数据的积累以及算法的进步使人工智能成为本世纪最具战略性的技术之一。毫无疑问,基于人工智能的算法正在改变着我们的世界。用“革命”来形容这场深刻的改变是不为过的。人们看到,华尔街早已经不再是金融家的天下,算法控制了70%的交易;犯罪嫌疑人的危险性也不再单纯地由法官和专家来评判,算法在其中扮演着举足轻重的角色;算法还被用来决定谁能得到面试的机会、谁能获得贷款以及多大数额的贷款、什么样的内容在什么样的场景下推送给什么样的人……

显然,算法越来越强势地支撑起整个世界的个性化、定制化、智能化运动,而这场运动之所以成为可能,是因为算法可以将人们的行为、交谈、购物、位置以及你的血压、心跳等林林总总的大数据通过算法转化为对人们某时某地某个场景下的状态、属性、需求甚至情绪,进行打分、评估与预测。算法的秘诀在于,它可以凭借大数据的输入与分析,形成较之人类更迅捷、更实时、更敏锐、更优化的预测,以及在此基础上的决策与服务,从而带来在社会协同、市场服务、内容提供方面更加“自动”的响应、更加便捷的服务、更具兴味和沉浸感的内容制作、分发与提供。

算法的崛起必然是对于传统秩序与格局的重大改变,它所带来的一系列现象与后果也引起了人们自然而然的议论、焦虑甚至直言不讳的批评。譬如,它对于价值逻辑的“理解”中更偏向于市场逻辑、用户体验,而对于社会逻辑、伦理要求却缺少关注;它造就了好看、好玩、使人沉浸其中甚至难以自拔的魔力,这一方面挤占了人们越来越多的生活时间和休息时间,更为重要的是,把人们的精力和注意力吸引到“一地鸡毛”的琐碎以及虚拟世界当中而置社会生活中更重要的人和事于不顾……凡此种种,都是让我们不能不认真对待和严肃思考的。

必须指出,尽管存在着上述现象与问题,但我们不能也不应该用简单粗暴的方式,对待算法及建立在算法基础上的新功能、新服务与新产品,比如大行其道的算法型的内容分发,极易产生沉浸感的网络产品。智能型算法的出现、沉浸式产品的问世,这是互联网时代发展的一种必然,拒绝算法,就像工业化革命初期人们拒绝蒸汽机、纺织机及火车、汽车一样,是荒唐和可笑的。

以传播领域为例,在人人都是传播者的今天,传统意义上的专业化内容生产所占的份额早已是互联网时代海量内容大潮中的“沧海一粟”,如果我们只用人工编辑的传统手段去处理,恐怕绝大部分内容都无法得到有效的处理与分发,互联网作为一种先进的内容生产力所释放出的巨大价值就会处于一种空置状态,人们对于内容消费的迭代升级就无法实现,日益活跃的长尾市场与利基市场就无法得到有效的开发和利用,社会生活的“毛细血管”就得不到必要的活跃与滋养,文明进步就会受到严重的阻滞。

算法不是洪水猛兽,沉浸度好的传播产品也绝非等同于白粉摇头丸。问题的正确打开方式是:我们如何为算法植入价值观,如何为极易产生沉浸感的算法型产品加入干预和提醒机制。换言之,我们应该拥抱人工智能所引发的算法革命,构筑以人为本的人工智能型算法发展的战略,强调智能型算法的价值观,为沉浸式产品植入必要的干预机制,确保其朝着有益于个人和社会的方向发展。笔者认为,这一战略应该包括三大支柱性举措:

一是让智能型算法全面进入我们生活的方方面面,发展我国在人工智能算法领域的技术和产业能力,促进人工智能技术向整个经济、社会、政治、文化等领域的全方位渗透——不仅仅是互联网新媒体企业,也包括政府、学校等公共部门。因为只有社会各方的全方位参与,才能造就多重价值逻辑的互相作用与互相协力,单靠互联网企业一方的努力,社会价值观的植入必定是不完整的。

二是注重人工智能型算法时代全民的科技素养与新媒体素养的教育,以更为良性的社会文化准备迎接社会的经济、文化与生活的变革。这就要求我们必须让教育和培训体系跟上时代发展,密切监测用户与劳动力市场的新变化,普及新媒体知识,培育新型人才。在当前的过渡期要发布相关的社会指引等普及性读本,并组建必要的社会干预与保障系统。

三是确保国家具有与人工智能发展和应用相适应的伦理与法律框架,包括阐明算法型服务、沉浸式产品的产品责任规则的适用,深入研究人工智能技术带来的新挑战和新问题,通过国家力量、社会力量与互联网企业的协同,促进利益相关方的交流合作,从而制定出人工智能型算法服务与沉浸式产品的伦理指南。

最后,借用《算法帝国》一书的作者克里斯托弗·斯坦纳的话来说,在未来的发展中我们将面对一个如何划定效用和威胁之界限的任务。未来20年的故事,是人工智能算法和大数据的故事,而这个故事的结果好坏将取决于如何划定这些界限以及由谁来划定。无论如何,在人工智能和算法系统日益代替人类进行各种决策的时代,设计出验证、证实、知情同意、透明性、可问责性、救济、责任等方面的机制,对于我们来说是至关重要的。

(作者:喻国明,系教育部长江学者特聘教授、北京师范大学新闻传播学院执行院长)