太阳集团娱乐网址|主頁(欢迎您)

检测到您当前使用浏览器版本过于老旧,会导致无法正常浏览网站;请您使用电脑里的其他浏览器如:360、QQ、搜狗浏览器的极速模式浏览,或者使用谷歌、火狐等浏览器。

下载Firefox

学术研究

首页/ 学术研究/ 学院文库/

刘永谋:智能治理的哲学反思

日期: 2022-10-14 撰稿人:刘永谋

[摘要] 近年来,智能技术被大规模地运用于公共治理活动中,正在将当代社会的技术治理实践推进到智能化的新阶段。从远景看,存在着关于智能治理未来的两种极端看法,但更可能的发展道路是“介于乌托邦和敌托邦之间”的。从现状看,当前智能治理正在重塑社会面貌,它本质上是数据治理,而智慧城市是其主要抓手,各种反治理现象和社会风险也与之相伴而生。结合中国国情,智能治理现实推进必须贯彻有限工具原则,坚持利用与控制并重原则,注重诸种智能技术与人的融合,在具体语境中区别治理与操控,妥善处理“AI失业问题”。

[关键词] 智能技术;智能治理;技术治理;哲学反思


2019115日,习总书记在《关于<中共中央关于坚持和完善中国特色社会主义制度 推进国家治理体系和治理能力现代化若干重大问题的决定>的说明》中指出:“建议更加重视运用人工智能、互联网、大数据等现代信息技术手段提升治理能力和治理现代化水平。”所谓智能治理,指的是在社会运行尤其是政治、经济领域当中,以提高社会运行效率为目标,系统地运用智能技术的治理活动。大致来说,智能技术指的是物联网、大数据、云计算、虚拟现实(VR)、人工智能(AI)以及区块链等信息通信技术(ICT)领域最新的进展,均与所谓“机器智能”的概念相关联。最近被热议的大数据治理、算法治理和区块链治理,都建基于某种智能技术之上,属于智能治理的具体形式。从哲学层面,应当如何看待智能治理?在技术治理的视域下,本文尝试由远及近地审视智能治理发展的未来和现实,进而提出有关智能治理推进的原则性建议。

一、智能治理发展远景定位

智能技术在治理领域的应用,使得技术治理活动乃至当代社会运行发生重大改变,亦引起全社会对智能治理未来发展的极大关注。

(一)技术治理步入智能化新阶段

技治主义思想诞生于19世纪中叶,力主将现代科技成果运用于社会运行活动当中。20世纪初它在欧美逐渐流行,并在3040年代激起北美技术统治论运动,之后开始向全球传播。到21世纪之交,技术治理已然成为公共治理领域一种全球性普遍现象,可以称之为“当代社会的技术治理趋势”。从这个意义上说,当代社会已经成为技治社会。

在历史上,技治主义者不断尝试将不同的科学原理和技术方法用于治理活动中。根据物理学原理,技术统治论者斯科特将现代社会视为能量转换和利用的“大机器”,主张通过社会测量查明整个社会的能量状况,实现生产和消费的能量负载平衡,给社会成员提供舒适的物质生活。科幻小说家威尔斯从生物学视角看待现代社会,主张用生物学方法提升社会成员的身体状况和精神状态,在此基础上使技治社会更高效地运转。行为主义心理学家斯金纳提倡的“瓦尔登湖第二”社区,最大特点是运用心理学方法,在一定程度上管理、改造和控制社会成员的情绪和行为,使之符合技术治理的总体目标。美国左派知识分子伯恩哈姆则主张社会应交由职业经理人管理,用专业的管理技术来运行社会,包括公司、政府和其他社会组织机构,摆脱所有者对实际经营者的干扰,组织和协调治理活动所涉及的诸种人财物因素。

智能革命兴起以来,技术治理出现明显的“智能治理的综合”趋势,即不同技治手段逐渐在智能技术搭建的平台上综合起来,不再是零散的、局部的甚至相冲突的“技治拼盘”。“智能治理的综合”之所以可能,根本原因在于:无论哪一种治理技术的运用,都必须精确地把握治理对象的即时信息,了解技治方案实施的实际效果。换言之,信息高效流通与深度分析是各种技治方法发挥作用的前提,而这正是智能平台所能实现的。

伍德认为,智能技术尤其是物联网是当代技术治理的基础。他的观点有些夸张,但“智能治理的综合”的确改变技术治理的操作状态,将之提升到智能化新阶段。作为传统技治形式的新发展,智能治理同样坚持科学运行和专家治理的基本技治原则。与传统技术治理相比,智能治理具有如下特征:1)融合化,即促进各种技治手段(包括各类自然技术和社会技术的方法)相互融合,大幅度提升社会工程的水平。2)数据化,即以日益增长海量数据为基础,通过对数据映射出来的“数字世界”进行社会计算,实现治理目标。3)算法化,即不断完善智能决策系统,尝试将程序化的算法决策扩展到更多的决策活动中。4)精准化,即发挥智能技术强大的感知能力、传输能力和计算能力,将传统的粗放治理转变为精准治理。

智能治理是智能社会的基本特征。称智能社会为“智能”的,是拟人化的隐喻用法,即社会像有机体一般具备了某种“智能”,能在社会自觉的基础完成某种刺激-反应的“类生命”行为。所谓“社会自觉”,指的是智能社会可以通过技术手段收集关于自身的各种数据和信息,对自身的即时状态有一定程度的“了解”,并在此基础上“思考”自身发展的问题和方向。当智能社会出现各种问题和变化时,比如受到新冠病毒冲击,能迅速感受到内外的刺激,在“思考”的基础上做出反应,并不断接收反馈以调整反应行为。这与传统社会盲目、“本能”地应对方式根本不同。智能治理将智能技术与预测技术、规划技术等软技术相结合,能极大地提高智能社会的自觉水平和行动能力,而这也是智能治理发展的重要任务。

(二)智能治理远景存在两种极端

在新冠疫情的应对中,智能平台发挥着重要的作用,各种诊断技术、隔离技术和防控技术等的使用都离不开它。很多人开始在思考:从智能技术发展的理想愿景来看,智能治理将如何从总体上影响人类社会的未来?存在着两种对立的极端观点:悲观的认为,智能治理发展最终将人类置于智能机器的奴役之下;乐观的则认为,人类社会必定会在智能治理的支撑下走向完美状态。

在北美和西欧,反感、憎恶乃至极端敌视技术治理的人很多,这与中国、拉美、俄罗斯和非洲等对比明显。不少西方学者认为,ICT技术加剧社会规训化的趋势,使得当代社会逐渐成为专制的“电子圆形监狱”(electronic panopticon)。

圆形监狱理论是边沁提出、福柯等人发展出的治理理论。边沁设想的圆形监狱中心是看守监视囚犯的了望塔,四周是环形分布的囚室。看守可以24小时监视囚犯,囚犯却看不到看守,囚犯相互之间不能交流。即使看守不在了望塔里,囚犯也会觉得有人在监视。简而言之,边沁圆形监狱的原理是“无处不在的监视”。福柯指出,圆形监狱不光监视,还可以运用规训技术改造罪犯行为,并根据改造效果调整改造方案;并且,由于圆形监狱技治规训效果显著,因而从监狱中扩散至整个社会中。边沁认为圆形监狱原理可以解决各种治安问题,而福柯则认为现代西方社会本质上是圆形监狱社会。

电子圆形监狱理论将信息社会与圆形监狱理论结合起来,批评信息通信技术对个人隐私的威胁比以往更甚。悲观主义者指出,智能治理不仅可以监视被治理者,还可以通过机器人采取约束性的措施,因此未来智能治理终将导致社会成为“机器牢狱”或“智能牢狱”。好莱坞科幻电影有很多此类想象,最著名的比如《终结者》系列中的“天网”(Skynet)。在智能治理的牢狱中,整个社会成为一架由超级人工智能操纵的智能大机器,每个人类成员都成为机器上的小小智能零件,与随时可以更换的钢铁零件没有任何差别。

乐观主义者的愿景均以一个乐观预期为支撑,即人工智能最终如果不能取代所有人类劳动,也能取代绝对部分的人类劳动。按照蔡斯的说法,“到那时候,当大多数人都永远不再工作时,就达到了一个经济奇点。”虽然对“经济奇点”出现时间点估计不同,但相当多的人相信它迟早会来临。在智能革命之前,很多学者已经想到一个问题:随着现代科技推动生产力迅速提高,提供满足社会成员基本生活所需物质财富的社会总劳动时间将不断减少。1929年,斯科特、罗伯等人调查北美生产力状况之后认为,如果北美地区所生产的商品和服务平均分配,已经能够满足所有人的舒适生活。制度经济学家加尔布雷思则将这一时间点认定在20世纪6070年代,即美国彼时开始进入富裕社会,所生产的物质财富总量远超社会成员的基本需要。“经济奇点”不过是“富裕社会”在智能革命背景下的某种新表述,从理论上说必然会到来。

当“经济奇点”最终到来,乐观主义者认为,人类将从生存和经济的压力中完全解放出来,乌托邦主义者期盼的“理想国”将在智能治理的支撑下降临人间。特别地,一些人相信智能治理将促成“计算共产主义社会”的实现。在乐观主义者设想的“智能治理乌托邦”中,社会财富由机器人统一按需生产,通过智能平台在全社会范围内平均分配;人类劳动完全取消,或者缩短到令人难以置信的程度;大量的闲暇时光被用于文学、艺术、体育、科研和宗教等社会活动,整个人类的道德水平、智力水平和身体素质得到极大地提高;剥削现象和阶级冲突消失,人人自由和平等,国家和政府职能极大萎缩甚至彻底消失,公共事务在智能平台中完全用自组织的民主方式加以解决,世界进入永久和平的状态中。显然,智能治理的乌托邦构想集中立千百年乌托邦主义者的各种期待,并给它们披上智能技术的“科技外衣”。

(三)智能治理未来发展的现实道路

与极端观点不同,更多的务实主义者认为,既有历史经验表明:人类社会走到极端的可能性极小,至善或极恶的状态均极少出现,绝大多数情况下均呈现有好有坏的现实状态;因此,智能治理的未来发展道路应该是“介于乌托邦与敌托邦之间”的,而它究竟是一条什么样的道路,不同国家和地区、不同文化和族群肯定会在具体历史语境中呈现出各自的特色。

务实主义的判断符合马克思主义辩证法的基本原理。西方马克思主义者芬伯格指出,计算机具有两重性,即它既可以作为控制机器亦可以作为交往机器,“而任何能加强人类联系的技术都具有民主的潜能”。在他看来,发达资本主义社会主要将计算机作为控制机器使用,这导致大量的社会问题,而应该将计算机作为交往机器来设计,使之为社会的民主化服务。芬伯格对计算机的批判性分析,符合马克思对科技与权力关系的基本看法:从终极意义上说,科学技术是进步的革命性力量,作为生产力的科学技术终将突破资本主义生产关系的束缚,但在阶级社会中它被统治者所掌握,更多地为统治阶级的利益服务。显然,马克思和芬伯格的分析同样适用智能技术,应该辩证地看待智能治理的未来发展。

在悲观主义看来,智能技术必将铸成监视一切的“索伦之眼”,无人能摆脱它的残酷统治。但实证研究指出,网络监视不仅有自上而下的,也有自下而上的,可以用于对组织进行监视(比如网民对政府机构信息公开的监督),两种不同方向的监视已成为智能社会的常态。并且,仔细分析圆形监狱理论可以发现:监狱看守并非不受约束,因为上级或民主监督机构可以不定时地视察他们的工作情况。据此,埃兹拉希则指出,圆形监狱可以倒转:将人民放入看守塔,可以将治理者曝光于民主恒常的监督之下。显然,此类监督很好地将治理者置于不知道会被谁检举的“匿名压力”下。按照埃兹拉希的观点,杰斐逊和潘恩等人首先意识到上述倒转的可能性,而将圆形监狱设计为权威对公众负责的民主工具。当然,埃兹拉希无法否定圆形监狱用于专制统治的一面,但非常中肯地指出圆形监狱存在着服务于民主制的另一面。

乐观主义者则不得不面对蔡斯等“经济奇点论者”非常担忧“AI失业问题”,即人工智能的推进伴随着越来越多的人失去工作。在《销声匿迹》中,格雷注意到近年来AI应用催生许多解决“自动化的最后一英里悖论”——“自动化的最大悖论在于,使人类免于劳动的愿望总是给人类带来新的任务”——的零工岗位,通过网络平台提供远程的外包或众包工作。的确,当前AI在导致失业的同时,也在催生一些工作岗位比如图片标注。但是,首先,AI创造岗位的数量与造成失业相比并不相当;其次,从长远来看“自动化的最后一英里悖论”更可能是暂时情况。机器人被发明出来,根本目标是代替人类劳动,所以只要AI继续发展,“AI失业”不可避免。因此,“经济奇点”到来不会像乐观主义者设想得那么完美,起码要解决棘手的“AI失业问题”。

二、智能治理发展近景扫描

智能革命方兴未艾,各种智能治理措施在各个社会领域不断推进,尤其是新冠疫情爆发以来更是迅猛发展,在大展身手的同时也暴露出一些问题。

(一)智能治理正在重塑社会面貌

智能革命与技术治理齐头并进,正在改变当代社会的基本面貌。大致来说,变化主要包括4个方面:1)进化加速,即智能社会运转节奏明显加快,社会变迁进一步加速。2)整合增强,即智能社会将所有的人、物和环境因素纳入智能治理之中,全面感知、认识、计算、调整和控制,不断升级控制-反馈活动,实现整个社会更大范围、更深层次、更细致的协作。3)全面智能,即智能社会正将更广泛地分布机器智能,将之与人的智能不断融合,使得环境开始表现出某种“智能”。4)计划细致,即智能社会不断尝试减少未知性,努力对未来状态进行精确预测,对未来行动加以周密计划,并及时察觉、矫正和控制偏离计划的情况,以规避各种社会风险,不断提高运行效率。总之,智能治理正在使当代社会转向大规模预测、规划和控制的控制论社会。

因此,智能治理社会不再是盲目的、自发的社会,而是充斥着各种有目的、有计划的行动,朝着预先设定的方向前进。此时,社会行动是面向未来的,以数字的测量和预测为出发点,以数字的规划和控制为目的。但是,社会实际发展并不会与计算结果完全吻合,甚至多数时候并不吻合。强力计算并不能消除风险,甚至可能出现相悖的结果:计算越多,数字越多,暴露出的风险也越多。但是,即使社会的实际发展与最初的社会规划并不完全吻合,也不能改变技治社会不断实施大量不同范围、不同层次的社会测量、预测和计划,并不断接收计划实施后的反馈信息以调整各种控制行为。也就是说,智能治理的目标会根据具体情况不断修正,因而它的目标并不是既定蓝图的乌托邦社会。换言之,它的主旨并非迈向某种理想状态,对社会运行的持续而即时的控制努力本身便是它的目的。

(二)当前智能治理本质上是数据治理

AI技术发展几经起落,最近这波热潮主要以深度学习(DL)领域的突破为基础。作为一种复杂的机器学习(ML)算法,深度学习力图让机器通过大量学习样本数据的内在规律和表示层次,获得像人一样识别和解释文字、图像和声音等数据的分析能力。所以,深度学习的实现需要大量的数据,之前由于数据量的限制,一直没有表现出优异的识别能力。进入21世纪之后,物联网、云计算和大数据等相关数据技术兴起,深度学习才取得突飞猛进。可以说,目前智能技术获得的“智能”,主要依赖于对海量数据的采集、挖掘和解析。

运用计算来操纵“人事”的想法古已有之,但只有等到智能技术兴起之后,才有可能真正落地。“智能治理的综合”之所以可能,关键在于所有与技术治理相关的事物,均被转化为同质的可计算数据信息。各种技治手段运用的知识类型不同,面对的对象和问题不同,解决问题的方式不同,但均可转化为数据,可以相互比较、交流、沟通和融合。因此,数据是当代技术治理总体化运行的枢纽。从这种意义上说,当前智能治理本质上是数据治理,其要害在于对数据进行持续不断的即时计算,并据此采取相应行动方案,对社会运行进行持续不断的调节、控制和改造。而随着智能治理的推进,实在世界和人类社会日益数字化,所有的人和物开始被数字孪生物所置换。

(三)“智慧城市”是当前智能治理的主要抓手

科学地运行城市是当代技术治理重要的战略措施,智慧城市则是科学城市的高级形态。由于当前人类主要生活在城市尤其是大型和超大型城市之中,因而当前的智能治理主要围绕建设“智慧城市”而推进,或者说以“智慧城市”的建设为主要载体。

20世纪初,技术统治论、泰勒主义、科学主义等新思潮,对建筑设计和城市规划产生重要影响。在城市规划领域,起初是进步主义思潮的侵袭,接着是现代主义、结构-功能主义和科学管理运动的冲击,最终科学城市在20世纪下半叶成为城市建造的主流理念。随着智能革命的兴起,智能技术在建筑设计和城市规划中广泛运用,科学城市开始向智慧城市进化。

智慧城市的监测和控制活动,不仅涉及人群流动及其高速互动,也不限于与人类生活直接相关的人财物、水电气、交通和信息流通等,还囊括传统意义的纯自然环境如局部气候、绿化、疾病、宠物和城市动物等。换言之,“智慧”泛在于城市中,并不区分人与非人、主体与客体、治理者与被治理者,而是试图将人、人工物与自然物皆悉数纳入智能治理范围之中。因此,在智慧城市建设的抓手下,各种技治手段不断融合,提升着智能治理的综合水平。

运行和治理21世纪的城市,有自身的规律、特点和方式。如今的城市不仅意味着居住地,更意味着一种生活、文化、环境和人际交往方式。人们希望巨大的城市像生命体一样感知和行动,及时响应市民的要求,保证安全而舒适的生活,不再是冷冰冰的“钢铁丛林”,而是成为某种“自由人的生活和自我实现之地”。这给智慧城市建设提出了更高的目标:科学城市使城市成为“科学的”,即人类能科学地居住,而智慧城市要使城市具备“智能”,即以“城市智慧”安顿人类,帮助人类安居乐业。而城市“智慧”的关键在于,不断推进、综合和完善各种智能技术在城市建设中的应用,提高城市系统的刺激-反馈能力,实现依照既有规划蓝图的乌托邦城市向控制论城市的转变。

信息智能网络在很大程度上超越有形的国家边界,城市智慧化使得世界各大城市群的联系越来越紧密,智慧城市建设不得不用更多地以全球视角来考虑问题。首先,智能城市不仅要注重市民团结,还要考虑社会团结、全球团结的问题。布热津斯基认为,麦克卢汉的“地球村”不如“全球城市”(global city)更能描绘信息时代中不安、焦虑、紧张和碎片化的相互依赖网络,这种相互依赖是互动频繁而不是真正的亲密。其次,智慧城市不能只享受全球化的红利,也要直面全球性问题对当代城市的冲击。近来日益受到重视的地球工程(geoengineering),试图为在城市生活中的人类营造更好的气候环境,突出体现“智慧城市网络建设”的全球性。

(四)智能治理措施的实施伴随着反治理现象

数字可以精确计算,数字世界可以精确操纵,这使得某些智能治理推崇者很容易产生所谓的“完美治理梦想”,即运行智能技术可以百分百地实现预期治理目标。首先,所有人都需要被改变和提升,即目标不止于打击犯罪和违规,而是要把每个人成为“完美人类”。其次,人类生活其中的城市的方方面面,包括市民的思想和肉体、非人和自然环境、城市的今天和未来,通过计算都能达到误差允许范围内的控制,使之成为“完美城市”。最后,数字世界是完美的世界,实在世界必须完全参照数字世界进行计算和治理,使之成为“完美世界”。显然,只要不陷入狂热情绪,就知道“完美治理梦想”不可能完全实现,只能作为某种“理想型”(ideal type)参考,在现实中必须有所取舍、变形甚至放弃。但是,智能治理的主事者常常会迷失,对智能治理产生一定程度的迷信。

当前智能治理的实践表明:与所有技术治理措施一样,智能治理同样伴随着破坏效率的反治理现象。归纳起来主要包括5种:1)过度智能治理问题。如果坚持将“完美治理梦想”付诸实施,结果必定是过度智能治理。比如,电子监控并非越多越细越好,很多社会参数完全没有必要获取,过度监控严重浪费人财物力,产生大量垃圾信息,严重降低智能治理效率。2)智能低效问题。比如,计算机在组织机构的使用,办公自动化的普及,在某些情况下,未必提高工作效率,相反掩盖某些需要改进的问题。3)智能技术怠工问题。比如,利用智能技术来怠工,出现问题推卸给智能设备,将追责问题转变为设备和算法升级问题。4)智能破坏问题。“人肉搜索”、“网络水军”甚至网络造谣,以及利用智能技术的欺诈和犯罪,给治理活动带来混乱。(5)官僚主义智能化问题。比如,智能技术制造出城市管理中水电气、交通、人流等信息,信息越多就需要更多机构处理,于是官僚机构不断膨胀。各官僚机构各管一摊,不能把握整体和全局,这在“智慧城市”建设当中已经发生。

(五)智能治理的各种社会风险初步显现

在极端情况下,智能治理可能走向“机器牢狱”,此即智能治理的极权主义政治风险,可以称之为“新技术治理的隐忧”。很多人对此非常担忧,但出现的可能性并不大,不过智能治理可能服务于极权活动,对此要进行防范。

在当前智能治理的发展中,初步显现“苗头”的社会风险主要包括如下几种。

第一,“信息孤岛”。在现实世界中,有些东西无法被智能平台所感知,有些虽然被感知却无法数字化,有些数字化之后计算很困难,还有些东西无法接入智能平台与他者通信,最终均成为“信息孤岛”,在数字世界中“消失”。

第二,“无人困境”。智能治理是治理者、被治理者与智能技术在治理语境中的结合。当前智能治理实践活动中,智能技术常常不能通过智能平台与“治理中的人”很好地结合起来,一定程度上人的因素被治理者忽视,技术问题则被过于强调,可以称之为智能治理的“无人困境”。

第三,“大数据崇拜”。所谓“大数据崇拜”,指的是将统计学和统计数字作为权威的惟一来源,迷信只要有足够多的数据,一切问题就会迎刃而解。大数据并非全数据,基于它的推论并不等于完全归纳。并且,大数据没有讨论因果关系,而是发现相关关系,而相关关系的发现是在一定价值观指导之下的。因此,大数据的作用是有限的。在治理实践中,并非数据越多越好,数据太多可能导致“数据超载”等许多问题。

第四,行政干预过度。现代治理活动主张多元主体共治,而不是完全由政府实施的统治活动。即使在很多时候,需要政府牵头,但仍不能否认各方积极参与智能治理不可或缺的作用。无论如何,政府机构在智能治理的作用有边界,行政可以主导,但不可干预过度,更不可过于迷信行政权力结合智能治理能解决所有问题。

第五,数据专家权力越界。智能治理对大数据的强调,赋予数据专家强势权力地位。对此,要对数据专家的权力进行再治理,防止技治专家权力过大,侵犯民主自由,助长智能精英主义。在实践中,数据专家决策存在着不少缺陷。比如,现实中存在不少数据专家所不知道的“数据死角”,决策所需要的知识不局限于数据科学知识,数据专家可能想当然地做出“不接地气”或不科学的决策,结果“专家的决策仅仅是权力戴上了知识的假面”。

最后,个人隐私政治滥用。目前智能治理中,个人隐私问题备受关注。隐私暴露,个人权利就可能受到威胁。尽管政府已在尽力立法对数据、个人隐私予以保护,但问题似乎仍然比较严重。

三、智能治理现实推进原则

智能治理推进方式多种多样,如何走出一条适合中国国情的“介于乌托邦与敌托邦之间”的智能治理发展道路?从宏观上考虑,至少需要考虑如下原则性建议。

(一)贯彻有限工具原则

必须清醒认识智能治理的作用。现实世界远比数字世界复杂,智能治理对效率的提高是有限的,并非万能的“完美利器”,在很多情况下同样会“失灵”,甚至走向妨碍社会效率的反面。因此,既要承认在某些领域、某些问题和某些场合下智能技术提高效率的作用,力主优先考虑技术治理手段解决问题,又时刻谨记智能技术作用的有限性。智能治理的实施者要坚持科技谦逊主义,防止迷信科技力量和“大数据崇拜”的唯科学主义倾向,采取具体语境具体分析的审度态度,重视治理活动实际的效果反馈和风险控制。

贯彻有限工具原则,意味着反对总体主义智能治理工程,支持逐步的、局部的和地方性的渐进智能社会工程。历史经验和许多思想家的研究都已证明:至大无外的总体化技治乌托邦是不可能的,更是极其危险的。切实可行的技治制总是局限在一定范围、领域、层次和时空之中,既有的技治实践大多集中于经济与政治领域。渐进智能社会工程尝试逐步改良社会生活,一点一点提高社会福祉。并且,渐进式发展可以随时修正甚至停止、取消,具备“船小好掉头”的优势。埃兹拉希将渐进社会工程兴起称之为“微观乌托邦的兴起”:“在20世纪后半叶,完美生活乌托邦愿景首要目标很少包含较大的社会,而主要的焦点是个人或小团体的生活。乌托邦主义的主导流派是微观而不是宏观的乌托邦。其理想的形式,与其说是一个实际或潜在的,压倒一切的理想秩序的想法,还不如说是当地一个微观乌托邦的联邦。” 

贯彻有限工具原则,意味着智能治理从“大设计”转向“小设计”。运用理性和计算对数字时代的某些社会规则进行有限调整,是渐进社会工程的重要方面。在智能时代,规则不断被设计、被实施,然后不断调整、修正甚至重塑,没有一成不变的规则,不变的是设计规则的尝试。前数字时代,思想家们喜欢构想宏大社会工程,将社会的方方面面均囊括其中,但却缺乏对社会状况的真实理解。相反,数字时代给治理者提供远较之前详尽的社会大数据,可人们却从对总体主义乌托邦的迷恋中解脱出来。从规则设计角度看,在智能治理活动中,“小设计”接替了“大设计”,意味着规则的语境化、地方化、多元化和试错化,时刻保持对真实世界的敏感性。

(二)坚持利用与控制并重

既要尽量发挥智能治理作用,为中国特色社会主义建设事业服务,又要对具体的智能治理进行控制,防止智能平台和技治专家权力失控,威胁社会主义民主制的健康运转。

许多西方学者认为,民主制与技治制必然相冲突,理由是两者的目标不同:前者是自由平等,后者是真理的乌托邦。这种观点并不正确。首先,智能治理的目标是有限效率提升,民主制并不反对效率提升。第二,民主制并不意味着人民物质生活贫困,相反民主制同样希望提升社会福祉,应该也可以利用高效的智能治理工具为民主制服务。第三,如果效率目标成为整个社会的惟一目标,压制民主自由的目标,的确会出现民主制与技治制的冲突,但有限技术治理既反对总体主义的机器乌托邦,也反对失去控制的智能治理工程。第四,在现实生活中,智能治理已经被民主制越来越多地运用,并没有出现不可调和的冲突。因此,社会主义民主制可以也应该合理地运用智能治理手段。

同时,中国特色社会主义制度应运用制度-技术的方法,规避智能治理可能导致的社会风险。这又是如何控制智能治理系统的问题,可以称之为“智能治理的再治理”。总的来说,智能治理的再治理应该从技治系统的外部和内部两个方面来考虑。从外部来看,制度-技术设计的重点在于限制技治制的权力,防范智能治理系统权力过大。其核心问题包括:1)技治系统权力范围的制度划定,2)技治权力越界的侦测和纠错制度。从内部来看,制度-技术设计的重点在于平衡技治系统内各种技术力量,防范技术权力对民主声音的忽视。其核心问题包括:1)技治系统的民主参与,2)技术知识与治理知识的融合。归根结底,社会主义民主制约束智能治理,既是社会主义民主制的总体要求,也是技治系统在民主社会中有效运转的前提。具体到中国国情,智能治理的再治理可以重点考虑如下问题:1)建立和完善与智能科技相关的科技伦理委员会;2)对数据工程师和AI工程师进行人文主义工程师教育;3)强调更多使用道德化的智能治理等“软”治理方法;4)智能技术决策与科研活动的人民参与。总之,要重视对智能治理措施的控制。

(三)注重智能技术与人的融合

在技术治理活动,技术与人结合得越好,治理效率越高。加强智能治理活动中人与技术因素的融合,需要从各种智能技术的特点以及相关伦理、法律、心理、危机管理等诸多层面进行系统反思,推进制度建设、技术研发和人才储备,加强组织领导、专家咨询和实战演练,不断系统地提升国家的智能治理能力。

第一,加强技术专家与治理专家、实际管理者的沟通和合作。技术专家熟悉智能技术的细节,治理专家了解与人的治理相关的问题,而实际管理者深谙国情和治下各方面的情况。在智能治理方案制定的后期,最好还应该听取直接利益相关者的各方意见,不断完善和改进,才能有效地落地。

第二,约束治理者权力,这也意味着对被治理者权利的保护。在技术治理中,官僚主义是常见的现象之一。智能技术在公共治理活动中的运用,导致需要处理的各种信息成倍增加,官僚机构不断膨胀。新技术的应用需要大量人力、物力和财力,掌管三者的官僚机构权力不断增大。除此之外,常见的过度治理现象也是由治理者权力失控导致的。

第三,约束技术专家权力。智能治理相关专家因其专业能力,先天就具有技术权力。但是,专家也可能是危机处理中的利益相关者,有着自身的利益诉求,并且由于专业局限对其他事务缺乏足够了解。如果专家权力过大,可能出现胡乱决策和以权谋私等问题,必须对专家权力加以约束。

第四,区分信息与舆论。智能治理必然涉及信息流动的问题。在疫情技治中,许多信息不带主观歧义,与疫情判断、预测和防控直接相关,比如发病人数、药物疗效和医疗物资状况等,这类信息必须以保持通畅为第一原则。当然,此类信息无阻力传播也要分级,遵守保密法规。而舆情信息有很强的主观色彩和意识形态性,掺杂大量的谣言和错误言论,需要运用意识形态技术进行治理,引导主旋律,平衡不同声音,压制敌对意见。混淆信息治理与舆论治理,会严重阻碍危机处理中信息流动的关键作用的发挥。

第五,法治、德治与智能治理相结合。有限技术治理始终坚持智能治理作为社会主义民主制服务的效率工具之立场,认为智能治理并不自动实现追求公平优先或道德优先的目标。在中国语境下,德治与法治在公共治理领域扮演着根本性的作用,智能治理必须配合道德伦理规范、法律制度进行共同治理,才能发挥自身的优势。

(四)在具体语境中区别治理与操控

智能治理有限度,超过限度就成为智能操控,甚至把被治理对象当作疑犯来对待,严重侵害公民的基本权利。智能治理治理的未来发展,必须要具体考虑各种应用的限度,这不仅涉及治理目标,还涉及所采用的手段,只能在具体的社会语境中加以冷静、客观和谨慎的审度。

不能因为反对技术操控而反对一切新技术在公共治理领域的应用,而是要深入研究智能治理,在实践中确定治理与操控的界限。正如福山所指出的:“管制,本质上是在划定一系列的红线,将合法行为与禁止行为区分开来,这就需要能够界定某一领域让管理者可以在其中行使某种程度评判的法令。”在智能治理实践之中,治理与操控的区分在不同文化中有差异,随着时代发展也有所变化。比如,很难给出普遍的操作标准来区分教育与洗脑、引导与规训以及“优生学”与提高人口素质,这不仅涉及治理行为背后的目的,还涉及它所采用的手段,必须具体问题具体分析。但无论如何,不能简单拒斥或赞同,必须使用民主程序仔细辨别治理与操控,才能为极权风险防范的制度建设指明方向。

防止智能治理走向智能操控,一个很重要的问题在于:必须在一定程度上容忍智能治理的反治理行为。治理与反治理并生,就像物理学中作用力与反作用力并存一样。比如隐私权问题,无论怎么划定,智能治理总会招致来自隐私保护的阻力。智能治理系统不可能完全消除反治理,否则结果只能是系统的全面崩溃。并且,反治理对于智能治理系统并非完全无益的。智能治理必须容忍反治理活动存在,但又要防止反治理过于猖獗。因此,在智能治理活动中,要努力实现治理与反治理在具体治理语境中一定阈值下的平衡。

(五)妥善处理“AI失业问题”

智能技术应用对当代治理活动最大的影响在于:扩大经济自由,增加闲暇时间,极大地改变公共治理的前提条件,从而改变社会运行的根本面貌。但是,这种影响也意味 “AI失业问题”越来越严重,给整个社会的治理活动带来严重挑战,引起全社会的关注,必须审慎地加以处置。

AI失业问题”的解决,必须同时考虑远景和现实两方面。从远景来看,“AI失业问题”要解决,牵涉到人类社会制度的根本性变革,而不是仅仅靠智能技术和智能治理的发展所能解决的。机器人能够取代人类劳动,并不等于实际取代人类劳动,因为此种取代意味着取消少数人通过制度安排强迫大多数人进行劳动的剥削制度。从现实来看,社会制度进化需要很长的时间,必须逐步稳妥地前进,而且也要等待智能技术不断地发展,所以当务之急的问题是给受到人工智能冲击的劳动者找到新的工作岗位,保证他们能享受科技进步创造的物质财富。

根据马克思主义基本原理,“AI失业问题”反映出科技生产力发展与既有生产关系之间的矛盾,“经济奇点”逼近会极大地激化矛盾。从本质上说,解决“AI失业问题”,要不断减少劳动者的工作时间,给人们更多的闲暇时间,最终必须要彻底消灭剥削制度。20世纪的劳动史表明:现代科技在生产中的运用,持续减少着社会必要总劳动时间,推动“八小时工作制”和“双休制”被越来越多国家所实施。总之,“AI失业问题”突出反应智能治理发展应该放弃极端思维,寻找适合国情的“中道”辩证发展之路。

四、结语

目前,智能治理正在社会各个领域、各个层面快速推进。智能治理牵涉的不是纯粹的技术问题,更是与治理相关的制度安排和政治考量密切相关。中国的智能治理之路究竟应该如何走,需要深入研究,不断探索。目前,国内学界相关理论研究还很缺乏,尤其针对社会热议的隐私问题、失业问题、过度治理问题等的研究,急需大力加强。

无论如何,智能治理势不可挡。将智能技术用于治理活动,并非只存在一种可能性,而是存在很多不同的模式。应该从中国的现实国情出发,审慎选择合适的智能治理模式,务实地推进智能治理,通过制度设计发挥智能治理的正面作用,脚踏实地地防范可能的社会风险,将之引导到造福社会的方向上去,走出一条中国特色的社会主义智能治理之路,使之真正服务于中国特色社会主义建设事业和中华民族的伟大复兴。


Abstract: In recent years, the large-scale use of smart technologies in public governance activities is pushing the practice of technological governance in contemporary society into a new stage of intelligence. In terms of vision, there are two extreme views of the future of intelligent governance, but the more likely path of development is “between utopia and dystopia”. From the current situation, intelligent governance is reshaping the face of society, whose essence is data governance, and smart city is its main grasp, and various anti-governance phenomena and social risks are born with it.In the light of China's national conditions, the realistic promotion of intelligent governance must implement the principle of limited instrument, adhere to the principle of equal emphasis on utilization and control, focus on the integration of various intelligent technologies and people, distinguish between governance and manipulation in specific contexts, and properly deal with the "AI unemployment problem".

Key words: Intelligent technology; Intelligent governance; Technical governance; Philosophical Reflection


作者刘永谋,太阳集团娱乐网址教授。

原文刊于《太阳集团2018网站学报》2022年第3期,注释从略。