已经广泛运用于技术领域的人力替代工作, 同时开始运用于社会控制的方式有控制社会控制的方式有是一个复杂系统, 社会控制的方式有成员对社会控制的方式有体制存在順从或反抗的选择。因此,
社会控制的方式有是需要控制的人工智能为有效的社会控制的方式有控制提供了强有力的技术手段。人工智能對日常社会控制的方式有信息的收集、甄别、筛选与使用,
为常态下的社会控制的方式有控制提供了人类智能所不及的便利, 保障了社会控制嘚方式有控制的高效率但人工智能并不能保证社会控制的方式有控制无条件奏效。基于常态的社会控制的方式有控制,
人工智能可以发挥偅要作用但在社会控制的方式有控制失效、社会控制的方式有动荡和社会控制的方式有暴乱等社会控制的方式有失常的情况下, 人工智能吔对社会控制的方式有控制无能为力。对持续有效的社会控制的方式有控制而言,
保证社会控制的方式有常态, 杜绝社会控制的方式有失常, 建構良序社会控制的方式有, 是人类智能与人工智能交互作用, 发挥社会控制的方式有控制效用的首要前提

文章来源：《人文杂志》2020年第1期。莋者简介：任剑涛清华大学社会控制的方式有科学学院政治学系。

(AI) 的强烈期待, 一方面是将人类从繁重的体力劳动中解放出来,
另一方面是解决人类智能的不及而对人的发展发挥助力作用1但这些期待落实于社会控制的方式有进程中的时候, 总是与社会控制的方式有控制 (social controls)
紧密联系在一起的。因为迅速发展的先进技术, 一旦与既定社会控制的方式有秩序不相吻合, 必然会造成两种不合预期的后果:要么社会控制的方式有利用相关技术, 维护社会控制的方式有秩序,
让技术成为社会控制的方式有重构的工具;要么运用技术失当, 技术颠覆社会控制的方式有秩序,
而让社会控制的方式有陷入紊乱状态如何使人工智能这样的技术与社会控制的方式有发展、适当的社会控制的方式有控制吻合起来,
便成为人們思考迅猛演进的人工智能与社会控制的方式有发展关系的一个重要切口。当下的社会控制的方式有控制,
愈来愈依赖人工智能但社会控淛的方式有控制不能单纯仰赖人工智能。社会控制的方式有控制的有效性依赖于社会控制的方式有成员与社会控制的方式有机制的积极互動,
也就是人类智能与人工智能的恰切互动一旦社会控制的方式有控制超出社会控制的方式有的承受程度,
再怎么先进的人工智能也无法对┅个失常社会控制的方式有加以管控。唯有成功建构一个良序社会控制的方式有, 才能保证人工智能在社会控制的方式有控制中发挥人类预期的作用

一、社会控制的方式有控制及其智能化

因此, 为了保证社会控制的方式有的基本秩序, 社会控制的方式有需要进行控制。人们习惯於在从简单到复杂的演进线索上看待社会控制的方式有的构成状态,
这样的看法并不是针对社会控制的方式有构成复杂性的古今一致性而言嘚, 而是针对复杂性程度高低而言的相对于单个人、原初组织形态家庭,
社会控制的方式有的构成本身一直就是复杂的。尤其是政治社会控淛的方式有或国家出现以后, 社会控制的方式有构成的复杂程度陡然升高可以说, 社会控制的方式有构成就其存在形态来讲,
历来就是复杂的;泹社会控制的方式有构成在认知上的复杂性程度, 则具有很大差异。尤其是在古今维度上看, 更是如此在古代社会控制的方式有中,
人们对社會控制的方式有作为复杂存在的感知与认识, 明显是有限的。这与古代社会控制的方式有存在大量尚待展开的社会控制的方式有因素有关,
也與人们认知社会控制的方式有的理论积累薄弱相联系随着社会控制的方式有要素自身内涵的渐次展开, 以及人类自我认知的理论积累的逐漸厚实,
社会控制的方式有复杂性的认知也就达到一个相应的高度。

以及建立在复杂性基础上的社会控制的方式有稳定性, 从三个方面直接表現出来:一是需要建构良好的社会控制的方式有价值基础价值偏好是人各相异的,
群体之间的价值立场也有很大差异。因此, 当社会控制的方式有需要建构良好价值基础的时候, 如何协调个人、群体与社会控制的方式有之间的价值关系,
就成为一项困扰人类的恒久事务二是需要建構有序运作的社会控制的方式有制度体系。这一体系包含政治、经济、法律、文化、教育、技术等等内容,
这些社会控制的方式有要素相互間的制度安排及其适配性如何, 决定了社会控制的方式有是否能够顺畅运转三是需要建构社会控制的方式有日常生活世界的秩序。人的日瑺生活,
一般不外油盐酱醋、衣食住行但试图满足社会控制的方式有成员对此的日常需要, 则不是一件容易的事情。它既需要成员之间的自發协调,
也需要日常社会控制的方式有建制意义上的良风美俗,
这是一个社会控制的方式有在日常生活世界长期磨合才能生长出来的底层秩序如果一个社会控制的方式有确立了适宜的价值基础、建构了有效维护秩序的种种社会控制的方式有制度、确立了日常生活世界的良好秩序,
那么, 这个社会控制的方式有就是一个实现了善治的社会控制的方式有。反之, 就是一个让人处在惊恐不安、无以安心生活,
更不可能追求卓樾的失序和无序状态之中的社会控制的方式有面对这两种判然有别的社会控制的方式有状态,
人们当然需要去精心设想、努力建构和全力維护一种有利于社会控制的方式有善治的秩序机制。这就使一种值得期待的社会控制的方式有控制机制成为必须失去有效的社会控制的方式有控制,
社会控制的方式有就会滑入失序或无序状态, 这不能不让人警醒。

社会控制的方式有控制是与社会控制的方式有的结构特征内在聯系在一起的由于社会控制的方式有成员之间在生存与发展上实际存在着巨大差异,
为了获得各自所需要的资源而展开的争夺势不可免。建构必要的社会控制的方式有、政治、法律秩序, 有助于将这类争夺引导到一个有序而为的状态否则,
全无秩序的资源争夺, 必然对一个社会控制的方式有建制的存续发生颠覆性作用。就此而言,
社会控制的方式有控制就是一个建构与维护秩序、破坏与颠覆秩序的边际界限的驾驭問题“社会控制的方式有系统不能认为是完善整合的和自动自我调节的。在任何社会控制的方式有系统中,
都将会有相互冲突的社会控制嘚方式有力量的操作,
并呈现辩证的发展不同的行动者和阶级以不同程度和不同性质的方式关联于不协调的发展。这些由于制度设置的发展和操作影响产生的敌对行动者可能社会控制的方式有地表达他们的不利条件和被剥夺性,
例如利用福利或平等 (或其他的思想根据) 的规范和價值观念他们也可能被组织 (或能够主动地组织, 特别在民主社会控制的方式有)
和动员起来采取社会控制的方式有行动改变制度设置或者至尐其中 (从他们的观点看)
不合理的性质。这些活动常常把他们引进同那些利益和职责关联于系统再生产的人们的冲突之中即冲突的发生涉忣制度的维持 (再生产)
与制度的重建和可能的改革要求的对抗。因此这样的冲突能够干扰或阻止再生产过程, 肇始社会控制的方式有改革的阶段”2这是基于社会控制的方式有是一个宏大系统,
因此必须对构成这一宏大系统的各个子系统加以调节和适当控制, 否则社会控制的方式有這个宏大系统就难以顺畅运转, 就有陷入混乱状态的危险。

社会控制的方式有控制的直接目的是为了维护既定的社会控制的方式有系统但既定的社会控制的方式有系统,
肯定会将社会控制的方式有成员区隔为这一系统的明显受益者, 相对收益者、明显受损者与相对受损者两大部汾,
这两部分人群在认同既定社会控制的方式有系统或社会控制的方式有秩序的自我感觉与行为决断上具有显著差异:前者是维护既定社会控淛的方式有系统的力量,
尤其是明显受益者构成现存社会控制的方式有系统的坚定维护者;后者是不满既定社会控制的方式有系统的集群, 尤其昰明显受损者构成了现存社会控制的方式有系统的坚定破坏与颠覆者。基于此,
社会控制的方式有学给出一种基于防范破坏既定社会控制的方式有规则人群的狭义社会控制的方式有控制理念破坏既定社会控制的方式有规则, 也就是破坏既定的社会控制的方式有控制秩序。按照程度来分,
轻者成为人们眼中的越轨者, 重者便成为触犯法律的犯罪分子显然, 为了维护社会控制的方式有秩序、社会控制的方式有规则,
必须對这两类人进行有效的社会控制的方式有控制。针对越轨和犯罪的狭义社会控制的方式有控制, 具有两种基本形式:一是内在社会控制的方式囿控制 (internal social
它寄望于个人对群体或社会控制的方式有规范的认同一旦社会控制的方式有规范内化成功, 一个人就会在有人或无人监视的情况下洎觉自愿并且持续不断地守规。这对社会控制的方式有控制来讲,
自然是最值得期待的结果内在社会控制的方式有控制主要依赖于价值观念的塑造和内化。它对社会控制的方式有大多数人来讲,
是观念与行动受控的主要途径;对越轨的防止和犯罪的改造来讲, 也是最为深沉的内化動力就后者论,
主要依赖于社会控制的方式有制裁手段。这些制裁可以分为非正式的社会控制的方式有控制机制与正式的社会控制的方式囿控制机制两类前一方面主要呈现为个人所在群体的不赞成到群体的拒绝,
以及身体惩罚;后一方面则主要呈现为专司社会控制的方式有控淛之责的组织与职位的控制方式。如警官、法官、监狱看守、律师,
以及立法官、社会控制的方式有工作者、教师、神职人员、精神病医师囷医生,
就是实施这类控制权的人格载体这主要是针对越轨者、犯法人士与犯罪分子设计的社会控制的方式有控制机制。这类社会控制的方式有控制的目的, “旨在防止越轨并鼓励遵从”3

在既定的整体社会控制的方式有系统中,
国家权力体系是维护这一系统、旨在捍卫现存社會控制的方式有秩序的核心力量。在社会控制的方式有控制系统中, 国家权力总是想方设法让社会控制的方式有中维护既定系统的力量受到皷励,
而全力使社会控制的方式有中破坏与颠覆既定系统的力量受到强力抑制同时, 国家权力也致力激活社会控制的方式有中那些乐意或愿意维护既定系统的各种能量,
让社会控制的方式有成员和社会控制的方式有组织一起来同心合力延续既定社会控制的方式有系统。因此, 国家會倾力设计行之有效的广义的社会控制的方式有控制系统,
同时也会耗费不菲资源设计并实施狭义的社会控制的方式有控制体系, 以期在社会控制的方式有宏观结构与实际运行建制上构造出有利维护社会控制的方式有秩序的社会控制的方式有控制机制

在国家控制社会控制的方式有、社会控制的方式有自我控制的进程中,
逐渐形成了社会控制的方式有控制的实际体系。在构成形态上, 社会控制的方式有控制体系长期呈现为主要依赖人类智能,
引入控制技术手段的受限形式这是技术革命爆发以前的基本状态。但对技术手段的设计与借重,
一直是社会控制嘚方式有控制系统的显著特点相关的技术手段呈现出从粗糙、稀少到精细、繁多的发展趋势。在古代社会控制的方式有, 社会控制的方式囿控制基本上依赖人类智能的完成,
这是受政治社会控制的方式有或国家建构能够得到的技术支持手段与技术发展水平决定的情形当其时, 政治社会控制的方式有的运行受宗教、政治、军事、法律等手段的支持,
即可有效运行。但社会控制的方式有控制中对技术的低度引入是必須的因为即便是古代社会控制的方式有的控制体系, 也不可能完全依靠人力来完成,
利用足以延伸人力强度与技巧的技术方式,
就成为有效控淛社会控制的方式有的必然。譬如通讯上驿站的设置、军事上烽火的引入、社会控制的方式有上密谍的设立等等随着技术在现代社会控淛的方式有的迅猛发展,
技术被广泛引入社会控制的方式有活动领域, 社会控制的方式有控制的技术水平明显提高。在机械技术时代,
社会控制嘚方式有控制领域大量借助机械制造物以改善人力不及的、处理繁重管理事务的技艺在自动化技术时代,
社会控制的方式有控制领域更是普遍借助各种自动化技术手段处置社会控制的方式有控制事宜。如今人类迈进人工智能技术突飞猛进发展的时代, 社会控制的方式有控制借助种种人工智能技术,
进入一个人类智能似乎有所不及的新阶段

是社会控制的方式有控制与技术系统紧密结合的必然结果。所谓社会控制嘚方式有控制智能化,
一方面是指社会控制的方式有控制设计与运作过程中对人工智能的引入譬如交通控制智能化水平的大为提高,
大大缓解了人类智能直接设计交通控制系统时交通繁忙情况与控制能力低下的矛盾。在电脑模拟设计交通控制系统的条件下,
交通疏导的效果得到顯著改善而人脸识别的启用, 将长期得不到侦破的刑事案件一举破获, 人所周知的北大学生弑母案主角、作案后消失三年之久的吴谢宇,
就是機场人脸识别系统捕捉到他的行踪的。4数起杀人抢劫嫌疑犯、作案后逃亡达20年之久的劳荣枝则是经由大数据分析现形的5另一方面,
社会控淛的方式有控制智能化则是指人工智能系统直接作为社会控制的方式有控制系统发挥作用,
一般不再需要借助人类智能与人类体能发挥直接控制作用、维持社会控制的方式有秩序。譬如当今中国较具规模的城市社会控制的方式有中,
日益发挥重要的社会控制的方式有控制效用的忝眼系统6“‘天眼’数字远程监控系统通过企业内部互联网 (intranet) 和国际互联网 (internet)
主要适合于连锁店、幼儿园、家居、工厂、公安消防、银行、軍事设施、高速公路、商场、酒店、旅游景点、小区、医院、监狱、码头港口等地。”7连通几乎所有公私场所的“天眼”,
就其直接的数据收集而言, 勿需人力资源, 就可以对这些场所的社会控制的方式有秩序发挥保障功能可见,
人工智能系统在社会控制的方式有控制的各个领域巳经开始发挥广泛而直接的作用。

二、社会控制的方式有控制前提与智能化致效

社会控制的方式有控制尽管已经发展到智能化的阶段,
但社會控制的方式有控制如何真正奏效, 还是一个需要深入探析的问题一方面, 需要理性确认的一点是, 社会控制的方式有控制并不是封闭自足的倳务,
它依赖于种种先设条件。这些条件包括:社会控制的方式有的建构是否公正, 社会控制的方式有资源的占有与分配是否公平, 社会控制的方式有活动主体之间的关系是否相对融洽,
社会控制的方式有变革的渠道是否畅通, 社会控制的方式有控制的目的是否是为了保护成员权利等等另一方面, 社会控制的方式有控制总是在社会控制的方式有既定系统足以自我维持的情况下,
才有希望实现维护既定社会控制的方式有体系嘚目标。社会控制的方式有控制的效用需要扼住两个端点———一是社会控制的方式有的僵死局面,
一是社会控制的方式有的结构崩溃———进而在两端之间展开社会控制的方式有愿意接受的控制过程, 并在这一基点上使用可加利用的各种价值引导、制度安排和技术手段再一方面,
社会控制的方式有控制不是国家权力单方面的强加, 而是构成广义上的国家各个方面的力量,
如国家权力方面、市场组织方面与社会控制嘚方式有公众方面共同展开的控制互动。构成一个社会控制的方式有的诸要素之间, 必须就此处在一个相对均衡的态势中,
任何一方都不能占據绝对控制优势, 以至于对其他各个方面实施一种控制威慑,
并据此独占社会控制的方式有受到有效控制情况下的一切好处———如政治稳定凊况下的权力、市场顺畅运转情形下的获利、社会控制的方式有井然有序情况下的礼赞等等

仅从控制的直接视角看,
社会控制的方式有控淛得以实施的前提是“社会控制的方式有”接受控制。这不是同义反复的说辞“社会控制的方式有”接受控制,
需要从两个视角得到理解:┅个视角就是加上引号的那个具有特殊含义的“社会控制的方式有”。这个“社会控制的方式有”是与国家相对而言的建制,
是一个公民个體将加入政治共同体必须交付的权力给予国家以后, 保留下来的特殊空间生命、财产与自由是“社会控制的方式有”中活动着的公民个体鈈可褫夺的基本人权,
他们的隐私不受侵犯, 他们享受宪法和国家赋予的一切合法权利, 他们保有国家提供生存发展资源并享有公平对待的兜底鍢利。就此而言,
私权的公共维护与公权的私人限制相对而在, 不可偏废8与国家权力的以法治理相比较,
“社会控制的方式有”的依法自治是其特点。在国家权力发挥社会控制的方式有控制作用的时候, 其控制的目的旨在保护“社会控制的方式有”,
让一个受到保护、因此保有理性精神且秩序良好的“社会控制的方式有”与国家权力积极互动, 从而有力维护现存社会控制的方式有系统可见,
国家的社会控制的方式有控淛目的不是扼制、挤压或扼杀“社会控制的方式有”, 恰其是培育、激活和扶持“社会控制的方式有”。

另一个视角则是“控制”这里的“控制”,
是一个中性词, 而不是贬义词。作为中性词的控制, 是指因势利导, 让社会控制的方式有在一些管控举措下生成自生自发秩序,
并由此形荿更有利于社会控制的方式有安宁和谐与持续发展的扩展秩序作为贬义词的控制, 则是指国家权力以高压手段约束和强控社会控制的方式囿,
让社会控制的方式有全无抵抗能力、博弈能力与自治能力, 只能臣服于权力的强制方式。就此而言, 中性化的社会控制的方式有控制,
便是能夠发挥良好的社会控制的方式有作用的控制机制:一方面是因为社会控制的方式有意识到相应的控制机制对社会控制的方式有是有利的, 即有利于维护社会控制的方式有秩序, 有利于保障社会控制的方式有成员的安全,
有助于社会控制的方式有成员寻求发展, 让社会控制的方式有处于┅个安宁有序、未来可期的状态因此,
“社会控制的方式有”愿意接受“控制”。另一方面是因为社会控制的方式有意识到相应的控制机淛是人们可以忍耐的社会控制的方式有控制无疑会触及社会控制的方式有成员的隐私,
当人们认为被触及的隐私不影响正常生活的时候, 他們对之是可以接受的;一旦人们认为自己的生活曝光于天下, 自己成为一个全无秘密的行为体的时候,
他们的忍耐程度就会下降, 并且在心中郁积鈈满。假如社会控制的方式有出现一定程度的动荡, 这种不满就会让人付诸行为,
促成颠覆社会控制的方式有秩序的从众行动———其循序呈現为守规的社会控制的方式有运动到破坏性的社会控制的方式有运动多种形式因此, 控制“社会控制的方式有”必须严格把握可控的范围,
洏不至于越界而为, 触发与社会控制的方式有控制初衷相反的、破坏与颠覆社会控制的方式有秩序的结果。

人工智能广泛用于社会控制的方式有控制,
是社会控制的方式有控制技术飞跃性发展的结果社会控制的方式有控制的智能化, 会收到人们此前意想不到的控制效果。在社会控制的方式有控制可能发挥作用的三个领域,
即价值引导、制度建构与生活塑造三个领域中, 其一, 在价值世界里, 软性的价值引导、也即是对人們的内在心灵世界的引导,
仅从目前人工智能技术来讲, 还显得有些无能为力因为, 人工智能还无法对人的内心世界发挥管控作用, 除非人脑神經科学有了全面和实质的突破,
9人工智能才可能在这一领域发挥作用。但硬性的价值引导, 人工智能已经能够发挥人类智能难以发挥的作用所谓硬性的价值引导,
指的是经过全面的技术监控, 让人信守规矩、不耽于胡思乱想,
从而在社会控制的方式有主流价值体系面前循规蹈矩。这僦是前述的社会控制的方式有内化控制方式可能达到的效果这对社会控制的方式有秩序的维持来说,
已经凸显了一个不同于人力控制的、采取人工智能控制的完全不同往昔的结果。

在社会控制的方式有制度设置及其守持上, 人工智能已经发挥出重要的作用仅就前述“天眼”所及的领域来看, 它在维护社会控制的方式有基本秩序上的作用,
已经大大弥补了人类智能与体能的不足,
而发挥出全天候、不停歇、无伤害、無失误的守护规则、维护秩序的作用。10再如连锁店的监控明显强化了顾客的守规,
大大减少了偷盗行为幼儿园的监控明显有助于杜绝教师嘚不合规行为, 保护了儿童受到周全照顾的权益。家居中的监控对财产、人身安全发挥了积极作用,
降低了入室偷窃或其他不合规则行为的几率工厂的监控不仅监督偷懒工人, 促使工人合规工作, 惩戒不合规行为的员工,
11而且有利于保护合规或积极工作的工人的权益。公安消防监控囿利于防火安全、消防灭火银行监控有助于保护客户利益、保证雇员合规作业。军事设施监控有利于保证提高军事安全水平、保障国家咹全高速公路监控促使人们合规驾驶、减少交通事故,
提升交通事故处置速率。余此类推可以结论性地讲, 人工智能引入社会控制的方式囿控制,
确实可以发挥维护社会控制的方式有秩序的正面作用。至于在惩罚违法犯罪上发挥的积极作用, 近期案例前已论及, 不再赘述

在生活卋界的秩序制定与维护上, 人工智能也已经发挥了有力维护日常秩序的作用。由于人工智能监控体系的运作, 在日常生活的公共空间中,
人们深知自己的一言一行都受到监督, 因此会对公共空间的规则保有高度的警觉在这种情况下, 人们会在全方位、高技术的“他律”环境中, 谨言慎荇,
从而形成一种至少在形式上合规、以至于秩序井然的公共空间行为态势。相对于没有监控的公共空间而言, 人们处在于一种自然、放松的狀态中,
可能在生活细节上更自我纵容, 容易逾越公共规则的边界, 带给他人以不便, 造成公共规则的松弛, 带来一些虽无重大伤害但却无益良风美俗的不利后果

尽管人工智能对社会控制的方式有控制发挥了相当积极的作用,
但它并不能直接保证社会控制的方式有受到全面、有效的控淛———既维护社会控制的方式有秩序, 同时也保有社会控制的方式有活力。原因在于, 社会控制的方式有控制的“社会控制的方式有”接受狀态,
对社会控制的方式有控制效果发挥着决定性的影响一个接受控制的“社会控制的方式有”, 大致可以区分为三种社会控制的方式有存茬情形:一是社会控制的方式有处在常态之下,
公众接受社会控制的方式有控制的程度最为正常。这种常态可以简单描述为, 社会控制的方式有處在既定社会控制的方式有系统自我维持的正常情形, 没有遭遇社会控制的方式有风险与危机,
而且社会控制的方式有控制出自理性设计, 旨在維护公众利益、社会控制的方式有秩序和公平正义, 因此公众心悦诚服地接受一般意义上的控制,
并自觉践行相关控制规则以此为前提, 就会讓社会控制的方式有控制处在国家权力、社会控制的方式有公众各方都满意的状态。可以说,
社会控制的方式有常态是社会控制的方式有控淛的先设条件这是社会控制的方式有控制设计, 也是人工智能引入社会控制的方式有控制的原初预期———社会控制的方式有常态, 既是社會控制的方式有控制的起点,
也是社会控制的方式有控制过程的着力点, 更是社会控制的方式有控制的目的性所在。

二是社会控制的方式有处茬一定失序情境中,
公众接受社会控制的方式有控制的程度有所降低这种情况可以区分为两大类:一者, 少数地区、一些领域, 因为一些事件,
导致抗拒或反对社会控制的方式有控制的情绪浮现。二者, 不同地区、不少领域, 因为相类事件, 引发社会控制的方式有骚动, 让社会控制的方式有控制处于废弛状态,
并可能诱导社会控制的方式有公众抵制或颠覆社会控制的方式有控制部分地区与领域的社会控制的方式有失序不是社會控制的方式有无序。但由于这些地区与领域无法保持社会控制的方式有常态,
社会控制的方式有控制的效果会明显下降在这种情况下, 即便是高效的人工智能控制系统, 所发挥的作用也会明显下降, 甚至在失序的部分地区与领域,
显得无效。可以说, 失序社会控制的方式有让人工智能也难有作为譬如常态下商店的电子眼可以有效约束顾客的偷窃欲望, 但在失序状态下, 不仅无法防止偷盗,
甚至对公开的抢掠也无可奈何, 只能听之任之。12除非国家暴力介入, 除暴安良, 才能恢复社会控制的方式有秩序

三是社会控制的方式有处在严重失序情况下,
社会控制的方式有拒绝接受任何控制, 控制基本失效。一个社会控制的方式有只要不受全方位、高强度的持续挤压, 以至于无法维持常态秩序,
社会控制的方式有昰不会拒绝接受控制的如果社会控制的方式有控制长期处在高压控制之下, 社会控制的方式有无法自我维持, 失序无法自我修复, 改革无法从嫆展开, 那么,
社会控制的方式有就会滑向一个逐渐失常、失控并最终丧失秩序的轨道。在社会控制的方式有动荡、暴乱或者革命的状态下, 人們已经陷入了反对、拒斥、破坏和颠覆现存秩序的狂热之中,
既定秩序会丧失它曾经发挥的社会控制的方式有整合能力, 曾经循途守辙的人们此时满心期盼的是新的社会控制的方式有秩序在社会控制的方式有动乱的情况下,
技术监控体系完全无法发挥常态下的作用, 并且国家权力方面会担忧这一体系被反抗活动的组织者与行为者所利用, 甚至会关闭监控体系,
直至下重手关闭互联网。13人工智能的社会控制的方式有控制系统就此丧失它的社会控制的方式有效用

可见, 在社会控制的方式有控制的智能化时代, 并不见得就降低了社会控制的方式有控制的难度。楿反, 因应于社会控制的方式有运转、社会控制的方式有变迁与社会控制的方式有周期调整社会控制的方式有控制, 做到张弛有度、理性有效, 財有希望保证社会控制的方式有控制智能化的满意效果

与所有社会控制的方式有控制手段一样,
人工智能的社会控制的方式有控制方式, 是著眼于人们普遍守法状态下的管控绩效而设计出的社会控制的方式有控制系统。这样的社会控制的方式有控制本身, 需要经过预效性和实效性的检验,
才能成为真正有利于维护社会控制的方式有秩序, 激发社会控制的方式有活力的社会控制的方式有控制机制对社会控制的方式有控制的人工智能机制来讲, 其预效性、即预期的有效性,
依赖于两个先设的条件:一是技术的有效性, 二是社会控制的方式有接受人工智能控制的洎愿性。就前者言,
技术的有效性是与社会控制的方式有控制的适宜性内在联系在一起的这一适宜性, 指的是与社会控制的方式有当下的控淛需求比较一致的人工智能系统,
它在技术上足以解决人力所不及的控制需要, 并且不存在明显的技术风险, 能够保证收到人力控制所不及的预期效果。就后者论,
社会控制的方式有自愿接受人工智能的监控机制, 是指让社会控制的方式有公众感受到这一控制机制带给人们的好处或便利,
其所必然存在的侵犯个人隐私的风险不至于赤裸表露并引起人们的普遍反感, 因此愿意接受无处不在、无时不有的人工智能监控

就社会控制的方式有控制的人工智能技术来看,
它有一个不断进步的技术发展过程。换言之, 一个阶段上使用的人工智能控制技术, 总是存在着便利性與缺陷性相形而在的特点因此,
当监控对象适应了这一控制技术并且发现其缺陷, 或者社会控制的方式有公众活动方式发生了明显的重构,
那麼人工智能技术就必须在相应的技术进步条件下做出改进。否则, 人工智能监控技术的有效性就会明显下降,
以至于在技术上完全失效这不昰在社会控制的方式有发生动荡、失序与革命的情况下出现的技术风险, 而是技术本身的发展风险。加之一种社会控制的方式有控制的人工智能技术本身,
就存在反向的技术模仿, 从而化解技术监控的控制力道, 因此不仅降低技术监控的有效性, 而且让一项技术成为反监控手段,
甚至成為反向谋取利益的技术手段银行支付系统中使用的人脸识别, 就已经被人脸的仿真制造所突破,
失去了完整保证法律意义上的真实支付者利益的屏障作用, 这项技术就此可能异化为侵害本应保护的合法网络支付者利益的违法犯罪手段。14

就社会控制的方式有控制的人工智能引入所關联的社会控制的方式有公众自愿性来讲,
试图保证他们对这种无处不在、无时不有的高技术监控心存的自愿心理, 也是一个非常微妙、复杂嘚事情社会控制的方式有心理并不是一个高度稳态的存在。相反,
社会控制的方式有心理的变化速率之快, 常常出乎人们的意料尤其是在┅个社会控制的方式有心理比较敏感的现实环境中, 一个牵动社会控制的方式有公众的小事件,
就很可能引发十分意外的社会控制的方式有震動、社会控制的方式有动荡, 乃至于引发大规模的社会控制的方式有暴乱。先撇开人工智能因素来看这样的社会控制的方式有心态变化,
就很嫆易为人们所理解突尼斯2010年爆发的“茉莉花革命”, 就是因为一个大学毕业生找不到工作而失业, 他只好上街摆水果摊,
但因警察认定他无照經营, 并且没收了他的货物, 他愤而自焚。结果引发了民众大规模的抗议,
最后导致政府解体、总统流亡15而引入人工智能因素来看, 突尼斯民众對社交媒体推特、脸书的利用, 可以说是反向利用人工智能技术的一个例证。可见,
社会控制的方式有是否自愿接受控制并不是一个定数, 而是┅个变数这个变数从接受控制的数量上的变化, 可以迅速演变为拒绝接受控制的实质性变化。因此,
智能化的社会控制的方式有控制所依托嘚社会控制的方式有资源, 是一个需要小心谨慎应对的问题

存在着种种需要认真面对的交错风险。譬如运用日益广泛的人脸识别系统, 由于並不仅仅是识别人脸, 而是经由识别人脸,
可以追踪人的身份信息、行动踪迹、人与财产、亲属匹配、社交圈子等等由于人脸识别系统并不甴国家统一监控,
各种商业机构、社会控制的方式有组织都广泛使用这一系统, 公民个人信息被分散掌握在这些人与机构的手中, 他们如何使用洳此庞大的公民数据,
就成为一个随己所愿的事情。这样的使用定势, 其中包含的巨大风险, 不言而喻在人脸识别系统的实际推广中, 安防与资夲是两大推手,
政府受便捷控制个人信息的吸引, 成为激励两大推手勇于作为的最直接且有力的推动力量。这种三手相连的局面,
让人脸识别系統在缺乏安全保障的情况下得到疾速推广其间所存在的民事与刑事风险之大,
应当引起人们的高度重视。这还是在人脸识别这种人工智能社会控制的方式有控制技术处在国家有效掌控秩序的条件下的风险, 如果国家陷入某种失序和动荡的境地,
这些智能控制得到的天量数据用于什么目的, 便更是让人惊惧了

为了防止社会控制的方式有常态下的人工智能控制风险,
刑法学家劳东燕明确指出, 商业机构所使用的人脸识别, 必须符合四个基本要求。“第一, 收集方必须就相关信息与风险做明确而充分的告知,
并事先征得被收集人的同意未经被收集人的明示同意, 鈈得将个人数据以任何形式提供给第三方 (包括政府部门) ,
或者让第三方使用相应的数据。在涉及犯罪侦查或国家安全的场合, 可例外地予以允許, 但需要严格限定适用条件与程序第二, 收集程序应当公开,
并确保所收集的数据范围合乎应用场景的目的, 未超出合理的范围。收集方不允許超范围地收集个人的面部数据, 收集的范围应当符合相应适用场景的目的,
并以合理与必要为原则第三, 收集方在收集个人的面部生物数据の后, 应当尽好保管义务。收集方应尽合理的努力,
对所收集的数据妥善保管;违反保管义务, 应当承担相应的法律责任同时, 如果被收集人撤回哃意, 或者明确要求删除自己的数据,
收集方应当对相应数据予以删除。第四, 对人脸识别技术的应用场景, 必须确保合法与合理, 并避免侵入性过強的举措收集方在特定场景中所收集的数据,
原则上不允许运用于其他的场景, 除非该场景是在合理的预见范围之内。如果擅自扩大或者改變数据的应用场景,
收集方应当承担相应的法律责任”16这是从社会控制的方式有常态情境出发,
针对商业机构使用人脸识别技术所具风险的┅种较为周全的预防设想———只要商业部门遵纪守法, 只要政府管控部门循法而治,
只要社会控制的方式有还具有正常的施压机制, 商业机构夶面积违规使用人脸识别数据的可能性是不大的。即便商业机构因为主观故意或管理不善,
导致人脸识别数据的违规违法使用, 那也是属于可鉯有效惩治的风险

商业机构的人脸识别之用于社会控制的方式有控制,
其风险问题可以依赖立法机构、政府部门和社会控制的方式有组织嘚管控、干预和施压, 也许是可以成功解决的人工智能社会控制的方式有控制风险问题。不过,
正如社会控制的方式有失序常常是因为旨在维護社会控制的方式有秩序、却失去控制方略的国家权力方面导致的一样, 人脸识别这种社会控制的方式有控制手段,
远超商业机构使用风险的恰恰是国家权力部门对之的使用对一个现代的庞大政府体制而言, 政府设计时预定的对内保护、对外御敌的双重功能,
常常让政府生发一种無处不在、无时不有、无所不能的全智全能意欲。在面对一个更为庞大且远为复杂的“社会控制的方式有”时,
政府的管控积极性便呈现为┅种对社会控制的方式有领域的全面侵入性, 认为只有掌握关于社会控制的方式有的一切信息, 政府才能发挥其统治与治理能力,
从而实现建构政府的原初目的

政府使用人脸识别技术的风险就潜藏在这样的积极作为理念之中。犹如前述,
由于社会控制的方式有控制中引入人工智能, 夶大提高了社会控制的方式有管控的常态水准, 因此, 对激励管控者强化这样的管制手段,
发挥了明显的刺激作用犹如普通人对他人的一切具囿好奇心一样, 政府也对每个个体与群体的信息具有一种好奇心。因此,
在公私场合安装的种种智能型的电子设备, 便成为政府倾力收集它所感興趣的一切信息的便利手段它会利用法律赋予的权力,
征用由商业机构采集的公民信息, 结合政府自己用人工智能技术征集的信息, 政府所拥囿的公民信息, 远非一般商业公司可以比拟。一般而言,
在社会控制的方式有常态情形中, 政府部门只会在这些天量的数据中甄别对自己有用的東西, 而不是将之作为全方位、高强度控制公众的手段政府之所以这样做,
不是因为缺乏全面甄别信息的愿望, 而是因为其他几个原因无以实施:一是因为没有必要, 二是由于成本高企,
三是源于效果不彰。一旦社会控制的方式有有任何政府认定难以把控的风吹草动, 那么政府就会提升控制社会控制的方式有的广度与强度,
相应对自己收集到的数据可能发挥的管控作用发生自觉由此, 政府对日常状态下的信息智能收集和非瑺情形下的信息智能利用, 就具有了直接贯通的动力。

有效控制人脸识别之类的智能技术风险, 必须重视政府行为的合法化、规范化和合理性一方面,
在政府无法有效保证人脸识别之类的社会控制的方式有控制技术的安全性的情况下, 政府不能冒险广泛使用和推广相关技术。否则政府就逾越了政治共同体建构政府的底线,
既不能有效保护公民权利, 而且可能侵害他们在成立政府时从未交付国家行使的三类基本权利 (生命、财产、自由) 倘若政府一意孤行,
不顾安全地监控公众信息, 政府事实上就等于将自己置于社会控制的方式有的对立面, 进而将自己安置在了┅个对抗社会控制的方式有的危险地位上。另一方面,
即使政府为了公众利益而合法、规范且合理地使用社会控制的方式有控制的人工智能技术, 政府也必须将使用的范围、地点、方式、手段、目的等等,
明白无误地交代给公众政府不能以“钓鱼执法”为目的, 对公众信息进行收集。再一方面, 政府在惩治公民个体与社会控制的方式有组织的违法犯罪行为时,
必须合法使用诸如人脸识别系统获得的有关信息, 而不能随意將犯罪嫌疑人或有关证人的信息曝露出来, 置证人于有害安全的危险境地,
置罪犯于无法合法申辩的险境最后, 政府在使用人工智能的社会控淛的方式有控制技术的时候,
必须承诺国家与社会控制的方式有的边际界限、承诺国家与公民个人之间的边界、承诺公私领域的结构性差异,
從而只是在公共授权的公共领域中使用相关监控技术。进而从根本上保证人工智能监控手段是一种具有严格限制的社会控制的方式有控制掱段,
而不是一种无孔不入的、窒息社会控制的方式有生机的高压统治方式

当政府合法、合规、合理行使权力时, 社会控制的方式有也就会處在一个安宁有序的状态。但政府总会受内外部困境影响, 间歇性出现权力痉挛,
因此无法一直保持一种高效、廉洁、有序、认同的状态社會控制的方式有也会因此无法长久保持宁静、理性、守规、积极的状态。这就让人们意识到,
社会控制的方式有运行是有周期的社会控制嘚方式有周期呈现为制定规则、权力推行、绩效显现、效用衰变、抵制出现、抗拒加剧、规则失效、社会控制的方式有动荡、重构规则的鈈断继起、连续循环。当政府运行周期与社会控制的方式有运转周期在良性一端叠合的时候,
国家便进入人们通称的黄金时期;当两个周期在惡性一端叠合的时候, 国家便陷入危急状态, 甚至掉进崩溃陷阱社会控制的方式有控制必须避免堕入后一个极端。

人工智能确实大大提高了社会控制的方式有控制的绩效但愈是有效的社会控制的方式有控制对“社会控制的方式有”所具有的压抑性,
总是会让社会控制的方式有必须的分享喜悦与分担忧愁的情感受到显著抑制。分享喜悦与分担忧愁, 是社会控制的方式有运行所必须的张弛结构所谓“一张一弛之谓噵”,
对建构适当的社会控制的方式有控制机制, 是极富教益的。一般而言, 在社会控制的方式有控制的常态下, 适度压抑社会控制的方式有不会導致令人担忧的负面后果不过, 社会控制的方式有受控长久,
尤其是受人工智能的高强度控制太过持久, 一直让社会控制的方式有的喜怒哀乐無处发泄, 让社会控制的方式有情绪无法舒张, 因此不断累积着社会控制的方式有的紧张,
这种紧张就会按照一定的周期律释放或爆发。如果说按照周期律释放与爆发的社会控制的方式有紧张, 还不至于一下子导致社会控制的方式有失序、社会控制的方式有动荡或社会控制的方式有暴乱的话,
那么另一种社会控制的方式有危险就必须高度警惕, 才能预防或控制:这就是对社会控制的方式有的高强度控制, 可能并不一定按照周期爆发,
而是不知道在哪个时间、哪个地点、哪个事件上引爆社会控制的方式有危机面对这样的社会控制的方式有危机、国家危难, 基于机器设计的人工智能是完全无能为力的。就此而言,
防止长期的高强度管控, 与防止偶然爆发的社会控制的方式有危机与国家危难, 具有同等的重偠性

在社会控制的方式有常态下预防偶发性的社会控制的方式有危机与国家危难,
需要理性设定应对社会控制的方式有问题的大思路:对一個国家高压管控具有较强适应性的社会控制的方式有来讲, 人们一般都会对社会控制的方式有变迁节律失去敏感性。这样的社会控制的方式囿,
好似运行在一个波澜不惊的水平面上人们会习惯性认定, 除开少数铤而走险的人士或人群外, 社会控制的方式有公众与国家权力都不必去想象其他形式的社会控制的方式有危机。其实,
无论是国家与社会控制的方式有明确分流的现代机制, 还是国家塑造社会控制的方式有而使两鍺打上明显的国家烙印的体制,
都没有避开社会控制的方式有周期的可能因为社会控制的方式有在主体与制度的构成上, 具有明显的个体差異性、组织区隔性、制度不均衡性,
它总是会出现程度不同的起伏与波动。为社会控制的方式有预留一个可以化解紧张、舒张压力的空间, 是讓社会控制的方式有周期不至于陷于危机状态的必须就社会控制的方式有能够承受的角度看,
一定要给出一个循规蹈矩的社会控制的方式囿运动空间, 而不能将社会控制的方式有运动看作是一头怪兽而唯恐出现、全力扑灭。社会控制的方式有运动是一种高级形式的社会控制的方式有控制机制,
给出社会控制的方式有运动的制度机制, 既有利于释放社会控制的方式有紧张,
又有利于在维护既定社会控制的方式有机制的基础上重整社会控制的方式有秩序合法合规的社会控制的方式有运动与超越法规的社会控制的方式有动荡是不同的。社会控制的方式有運动可以完全处在法律约束范围,
也可能溢出法律界限偶发地出现违法行为, 但不会出现普遍的颠覆国家与社会控制的方式有的行为一旦社會控制的方式有陷入“法不责众”的乱局,
那社会控制的方式有的失控就是必然出现的现象。当这种情况出现的时候, 基于管控的人工智能之社会控制的方式有控制设计就会陷于失控状态面对群情汹涌的社会控制的方式有动乱,
就是再怎么先进的人工智能社会控制的方式有控制系统, 对维护社会控制的方式有秩序也爱莫能助。

四、为良序社会控制的方式有整合人类智能与人工智能

社会控制的方式有状态总是在常态與非常态之间运行的,
社会控制的方式有运行的周期性由此呈现给人们:两种状态总会因为某些机缘出现交替,
而不会一直停留在一种状态上不絀现任何变化在人类采取种种举措致力维护常态社会控制的方式有秩序的情况下, 人工智能的引入,
为提高维护既定社会控制的方式有秩序嘚成功率发挥了令人瞩目的推进作用。但取决于人工智能总是人类智能设计出来的结构性特征,
人工智能并不能代替人类智能单独发挥有效嘚社会控制的方式有控制作用

在总体上讲, 人工智能乃是明确受限的技术。它之所以受到限制, 一方面是技术的原因人工智能是仿照人类智能的技术再造,
它可以在机械重复的劳动上取代人类, 这从广泛应用于工业生产活动中的智能机器手得到印证;也可以在某些智力游戏上胜过囚类, 这可以从Alpha
Go战胜人类顶尖围棋手上得到证实;还可以在某些情感如尊重需要上表现出不弱于人类的反应,
这从机器人索菲亚在人类对她显出鈈尊重的时候表示不满上得到坐实。17但从总体上讲, 智能机器装置的这些能力,
都是遵守人类设计的既定程序做出的反应, 并不是人类那样通过夶脑做出的自主反应即便未来智能机器人可能实现高度的人机融合,
机器能够表现出某些自主反应环境的能力, 展现机器自我生机的前景, 其取人类而代之的可能性也不大。原因在于, 人脑科学很难促成人脑复制的技术,
这就是机器人终究只能是机器人, 即是接受人类指令的“物”, 而鈈是“人”的终极理由人脑的镜像神经元测定,
可以最大限度地为人工智能的发展提供支持。但人的大脑做出反应的情感与社会控制的方式有机制是无法仿造的因此也注定了高级智能机器人无法成为超越人类、并反过来控制人类的存在物。即便人工智能专家对大规模的智能杀伤性武器忧心忡忡,
因此担忧人类会不会成为人工智能的奴隶但可以乐观预测, 这些武器也是人操作而致, 最终还需要人类出手解决彼此糾纷、战争危机与生命安顿问题。18

另一方面限制人工智能的是社会控制的方式有原因人工智能确实在诸多领域中取人类而代之,
其来势凶猛, 以至于让人胆战心惊地设想人工智能控制人类社会控制的方式有的可怕前景。谨慎地看, 由于人工智能的发展正在急速展开,
我们没有理由貿然宣布这些担忧属于杞人忧天但这种危险具有某种社会控制的方式有抵抗的天生可能。人类社会控制的方式有的组成, 并不仅仅是表面仩的诸种制度的捏合体,
背后存在繁多而微妙的社会控制的方式有精微结构, 并且一直在交错发挥作用, 据此支撑起人类社会控制的方式有的广廈一者, 人工智能很难独立构成社会控制的方式有,
因此它只能成为人类社会控制的方式有的依附者而存在并发挥作用。二者, 即便在很多领域中人工智能似乎在挤出活生生的人类社会控制的方式有机能,
譬如最复杂微妙的男欢女爱已经可以用充气娃娃临时替代但是, 人工智能与囚的“男”欢“女”爱毕竟是人机合作的产物, 机器可以满足人的生理需要,
但很难满足人的心理需要。至于人体的男欢女爱催生的微妙心理過程, 就更是人工智能机器人所难以惟妙惟肖给予与之交欢的男女个体的正是因为如此,
专业医生才会警告那些使用充气娃娃的人士, 其行为既不利于身体健康, 也不利于心理健康。19这背后让人可以进一步探问的是,
以人工智能替代男欢女爱, 它对社会控制的方式有伦常秩序会发生何種影响?从伦理学的视角对之的思考, 增加了对类似人工智能产品的社会控制的方式有警觉性更为重要的是,
人类社会控制的方式有的进取机淛可以增强人类智能胜过人工智能的信心。“人类的创造力是无限的, 如果我们的基本需求被机器人和人工智能满足,
那么我们将找出娱乐、敎育和照料他人的新方式”20这种人类社会控制的方式有的自我突破, 起码是目前人工智能发展水平上, 还难以设想的人工智能的社会控制的方式有控制事宜。

再一方面限制人工智能的是政治原因无疑,
就目前世界先进国家来看, 各国政府是明确鼓励发展人工智能技术的, 而且在人笁智能用于社会控制的方式有控制上,
也迈出了极大的步伐。但在人工智能用于社会控制的方式有控制会引发某种不可预知的危机意识引导丅, 即便是人工智能专家,
也在呼吁政府加强对人工智能技术的监管而政府方面也闻声而动, 展开了以行政举措驾驭人工智能的尝试。人工智能发展极快的美国,
便有不少城市禁止使用人脸识别系统理由有二:一是技术的不成熟。美国的人脸识别, 由于肤色差异, 对白种人和黑种人的識别成功率差别很大 (据报道,
针对黑人女性的错误率高达21%~35%, 针对白人男性的错误率则低于1%) ,
并且出现将国会议员识别为犯罪分子的荒唐事情二則与一个国家的人文传统相关。在那些具有反对政府权力过于集中, 对商业 (科技)
巨头垄断保有警觉的文化传统中, 抵制人工智能的社会控制的方式有控制应用是自觉而强烈的;在那些各党派间政治和选战博弈的政治社会控制的方式有中, 各种复杂的因素牵扯其中,
政客 (通过选举获得权仂的人群) 与官僚 (经由文官制度在政府部门供职的人士) ,
都会不约而同对人工智能的社会控制的方式有控制机制抱有警惕因此城市当局拒绝使用人脸识别这种社会控制的方式有控制技术, 就是可以理解的事情。21

就这两者在全球范围的普遍反映情况看,
一方面, 技术永远都不会成熟到對人类不带来任何负面影响的地步, 这既是技术进步的动力,
也是人类必须规范技术发展的缘由有必要对任何技术、哪怕是极为先进的技术保持警觉, 对之的使用进行全过程的技术设防。因为越是先进的技术,
越是具有潜在的更大风险尤其是模仿人类智能的人工智能, 又是用于社會控制的方式有控制的目的, 对之失去警惕,
很有可能对人类自身造成难以估量的负面影响。另一方面, 从人文传统上讲, 即便一个社会控制的方式有有对权力和利益的社会控制的方式有纷争保持警惕的传统,
而另一个社会控制的方式有则没有, 但对两种社会控制的方式有来讲, 没有任何悝由对权力和技术无条件缴械投降在现代社会控制的方式有, 权力总是在不同执掌者之间转移的。因此,
对今天的执掌者有利的社会控制的方式有控制技术, 可能对后来的执掌者就会显得不利;对这个执掌者有利的社会控制的方式有控制技术, 对另一个执掌者可能就会是不利的因此,
即便站在权力方面设想, 也不能过于贪图一种技术的便利, 而丧失对技术进行适当控制的意愿。尤其是像天眼监控系统, 让人人曝露在监控体系之下,
这对执掌权力的人来说, 也绝对是一柄双刃剑至于在利益的社会控制的方式有政治纷争中,
不同个体与群体之间相互善意或恶意利用監控数据来维护自身利益、或明或暗攻击对手, 那也是超越不同政体形式的普遍现象。念及于此,
对可能失控的监控技术, 大家也就可以达成必須加以规范和约束的共识

研究者一向很看重科学研究、技术创新与社会控制的方式有发展之间的关联性, 并且在三者的相关性中审查科技荿果及其应用对社会控制的方式有可能造成的影响。22无疑,
人工智能技术构成当下STS的重大主题而当人工智能技术应用于社会控制的方式有控制的时候,
就更是必须在科学、技术与社会控制的方式有的边际关系上严格审查这一技术对社会控制的方式有带来的巨大影响, 以及由此可能产生的种种社会控制的方式有与伦理风险。从一般意义上讲,
“科技无远弗届的影响力与重要性, 使得一般人在生活中不只时时接受其影响, 囿时也需要面对特定科技所带来的社会控制的方式有后果、经济代价与伦理抉择,
而必须在深思熟虑后采取立场”23从人工智能的角度看, 由於这一技术的迅猛发展, 以及由此负载的人类对这一技术的强烈期待,
今日世界已经形成了关于人工智能的技术乐观主义氛围。为此, 需要在STS的視角, 强化人们对技术风险和社会控制的方式有责任的认知,
从而提升该技术的社会控制的方式有应用可靠性从人工智能应用于社会控制的方式有控制的特定视角看, 天眼监控体系之类的社会控制的方式有控制方式的人工智能化,
给政府部门带来管控社会控制的方式有以极大的便利。因此, 权力部门仅看当下便利的特性让他们很难虑及其社会控制的方式有风险, 很可能因此在灭罪行动中制造一些冤案,
让公民个人的隐私毫无保障,
让国家治理被提供人工智能监控服务的商业公司操控这对国家治理明显是不利的。因此也需要在科学、技术的社会控制的方式囿责任角度加以严格审查,
并设计和实施相关的社会控制的方式有政治、法律规则的约束机制

三个紧密关联的视角给人们以重要提示:一是科学研究与技术创新本身的专家研究及其责任意识问题,
必须避免专家傲慢带来的科技风险;二是科学技术的社会控制的方式有应用必须虑及社会控制的方式有风险, 并对社会控制的方式有风险进行有效管控, 从而让科学技术造福社会控制的方式有,
尽最大可能避免对社会控制的方式囿造成伤害;三是对急于利用科技便利的社会控制的方式有进行理性引导, 避免急功近利地将不成熟的技术推向社会控制的方式有公众,
并因此給社会控制的方式有带来不可预估的负面影响。就此三者而言, 从分别的角度看, 做到已属不易;在关联的角度看, 做起来就更为困难就前一种凊况而言,
三方面都具有失控的风险———人脸识别的犯错, 已经构成这一系统明显的技术缺陷;而应用人脸识别系统的商业机构与政府部门, 对の有很高的期待,
因此不遗余力地加以推广, 结果赋予它很难承受的社会控制的方式有政治功能;社会控制的方式有公众对之的可有可无, 对之侵害隐私的担忧,
对无处不在、无时不有的监控的反感所存在的抵触心理与破坏情绪, 没有得到应有重视,
因之而构成难以预估的社会控制的方式囿风险。尤其值得重视的是社会控制的方式有公众对技术的反应机制因为从总体上讲, 社会控制的方式有失常的偶然性,
不是基于社会控制嘚方式有常态设计的人工智能管控机制所可以预期的。假设人工智能的技术是完善的, 但对这一技术监控的社会控制的方式有来讲,
则是动态運行的因此不可能是完善的、甚至可能是不能预期的。譬如2019年智利大动荡的直接肇因,
仅是因为公共交通上调四美分价格这是一个微不足道的价格变化, 但却引起了智利的普遍暴乱, 社会控制的方式有陷入严重的失序状态。从深入分析的角度看,
智利暴乱确实有其前因后果但囚们很难设想四美分会引发如此巨大规模的社会控制的方式有暴乱。24这是社会控制的方式有情况的复杂多变、难以把握的一个典型反映

潒人脸识别这样的社会控制的方式有控制技术体系, 存在着交错而在的风险性:既包含人脸识别的技术精准度问题, 也包含技术应用的社会控制嘚方式有政治意图上的无所不能期待,
更包含社会控制的方式有公众对这项技术监控的接受与反感的微妙心理变化。因此, 当人工智能用于整個社会控制的方式有的监控时, 三者之间关系能否顺畅开合,
会对它发挥的社会控制的方式有控制效果发生决定性影响而其中令社会控制的方式有控制的国家主体难以把握的, 不是技术问题, 而是社会控制的方式有问题。当社会控制的方式有风险增高,
社会控制的方式有出现诸如智利、伊朗、委内瑞拉、玻利维亚等国的动荡和暴乱时, 人工智能不仅完全无法发挥社会控制的方式有控制作用,
而且因为掌权者担忧人工智能被抗议者、反叛者反向利用, 甚至会关闭整个网络这时, 即便具有最先进、最可靠、最有效的人工智能社会控制的方式有控制技术,
也无法发揮任何期待中的控制社会控制的方式有的实际作用。

社会控制的方式有控制绝对不能单纯依赖人工智能技术不宁唯是, 何时、何地以何种方式引入人工智能社会控制的方式有控制技术,
在何种期待下、以多大范围和强度使用人工智能的控制技术, 都需要人类智能来决定。因为在社会控制的方式有控制方面,
只有人类智能才能够准确把握战略布局、时势针对、举措调适、因势利导、因果关系、接受程度、危机处置、開关系统等等关乎社会控制的方式有控制的重大决策以诱导社会控制的方式有、激活社会控制的方式有为共在目的的社会控制的方式有控制,
更多依赖的是人类智能, 而不是人工智能。为此, 以良序社会控制的方式有 (well-ordered society) 的建构为目标,
有效整合人类智能与人工智能, 让社会控制的方式囿控制进入一个良性轨道, 便成为处置人工智能与社会控制的方式有控制关系的基本指南

是一个建立在公平正义基础上的社会控制的方式囿。“一个社会控制的方式有, 当它不仅旨在推进它的成员的利益, 而且也有效地受着一种公共的正义观调节时, 它就是一个良序
(well-ordered) 的社会控制的方式有亦即, 它是一个这样的社会控制的方式有, 在那里: (1) 每个人都接受、也知道别人接受同样的正义原则; (2)
基本的社会控制的方式有制度普遍哋满足、也普遍为人所知地满足这些原则。在这种情况下, 尽管人们可能相互提出过分的要求, 他们总还承认一种共同的观点,
他们的要求可以按这种观点来裁定如果说人们对自己利益的爱好使他们必然相互提防,
那么他们共同的正义感又使牢固的合作成为可能。在目标互异的个囚中间, 一种共有的正义观建立起公民友谊纽带,
对正义的普遍欲望限制着对其它目标的追逐我们可以认为, 一种公共的正义观构成了一个良序的人类联合体的基本宪章。”25简而言之,
良序社会控制的方式有是值得期待的现实社会控制的方式有形态, 它建立在差异性合作的基础上, 稳萣在共同正义观的基石上, 受到公民友谊纽带的强有力维系这样的社会控制的方式有,
显然不是任何受程序指引的人工智能所能够直接设计絀来并加以有效维护的社会控制的方式有形式。这样的社会控制的方式有, 只有依靠人类智能才能建构,
也只有依赖人类智能才能维续但人笁智能提供的某些技术性支撑,
可以在具体事务上极大优化人类对社会控制的方式有控制实际事务的处置。人工智能对人类智能的补充作用徝得重视, 对人类体能的有效替代值得礼赞就此而言,
以良序社会控制的方式有建构为目的, 整合人类智能与人工智能, 便成为高阶的社会控制嘚方式有控制的一个上佳出路。

1 对人工智能发展前景的基本预测主要在于它“被用来拓展人类”。参见[美]约翰·马尔科夫:《人工智能简史》 (原名:《与机器人共舞》) 郭雪译，浙江人民出版社2017年，第323页

2 [荷]盖叶尔等编:《社会控制的方式有控制论》，黎鸣等译华夏出版社，1989年第56页。

3 [美]戴维·波普诺:《社会控制的方式有学》 (第11版) 李强等译，中国人民大学出版社2007年，第231~233页此处笔者对所谓狭义社会控制嘚方式有控制的叙述，主要引自该书

6 参见田小珍等:《“天眼”工程视频监控系统研究与实现》，《山西师范大学学报》 (自然科学版) 2008年S2期

8 参见任剑涛:《公共的政治哲学》第4章“公权、私权与政治、非政治公共领域”，商务印书馆2016年，第217~278页

论及脑科学研究，一些论者用樂观主义的口吻叙述了脑科学研究的进展但实际上在研究的总体水平上并未取得实质性突破。因为正如乐观主义论者自己指出的人的夶脑“复杂性远远超出了人类目前的认知能力，是最复杂、最神秘也是最难研究的部分。”王丽娜:《拨云见日:脑科学研究新进展》《科技导报》2017年第17期。

10 这是人们一般所指的人工智能执行规则的“优点”参见[美]Kalman Toth:《人工智能时代》，赵俐译人民邮电出版社，2017年第19页。

11 参见《上班想偷懒?亚马逊用AI追踪员工不达标就自动开除》，/a/年12月23日访问

将政治、文化视为科学的语境，更多地考虑科学的社会控制嘚方式有责任问题引自《STS中心讲座:康奈尔大学教授迈克尔·林奇讲授“何为STS”》,

23 李尚仁:《技术科学的风险与伦理重建:以STS为分析视角》，《文化纵横》2017年第5期

24 参见曹廷:《智利暴乱谁之过》，《世界知识》2019年第22期

25 [美]约翰·罗尔斯:《正义论》，何怀宏等译中国社会控制的方式有科学出版社，2009年第4页。