作者简介：邱泽奇，北京大学中国社会与发展研究中心。
内容提要：本文以技术作恶的特征性现象为讨论起点，认为技术作恶有一个共同的社会特征：既有的社会规范无力约束新兴的技术行为。文章回顾了社会学的技术研究知识脉络，指出埃吕尔的技术化社会是理解治理困境的知识路径，技术化社会3.0版的基本特征是技术从组织化应用迈向社会化应用，在推动经济社会发展的同时推动了个体化发展，也推动了行动者不可识别、不在场的场景化行动空间的发展。个体化、场景化、不可识别、不在场的叠加，让技术行为特征变得难以预见，进而让现行的属地治理逻辑失灵、规则失效，这构成了技术行动与社会规则之间的异步，也是技术化社会治理困境的根源。
关 键 词：技术化社会/治理/异步困境
标题注释：本文系国家自然科学基金2018年应急管理课题“多主体参与、场景关注与乡村智慧治理的研究”(主持人：邱泽奇，项目批准号：71841003)成果的一部分。
一、疑问：技术在失控么？
邓小平指出：“马克思讲过科学技术是生产力，这是非常正确的，现在看来，这样说可能不够，恐怕是第一生产力。”(邓小平，1993：275)的确，技术创新与应用是促进经济和社会发展的第一推动力。可进入21世纪以来，接连发生的“技术作恶”却让人反思：人类是否还有能力治理一个走向纵深的技术化社会？
技术本无善恶，人们把技术用于不同的目的才产生了善恶。技术善恶的本质是人类行动的善恶。在技术发展的历史进程中，不乏用技术作恶的例子。为了惩恶扬善，人类制定规则①来引导行动，发挥“第一生产力”的效率，用技术服务促进人类福祉。可近些年来，技术作恶的普遍性和系统性超过以往任何时代，个人、企业和政府都有用技术作恶的行动。其中，有三个特征性现象②值得回顾。
第一，暗网(darknets)。信息技术进入大众应用以来，人类生产的数据在以指数速度增长。国际数据公司(IDC)的数据表明，到2012年，人类印刷材料的数据量约为200PB，而根据美国军方③的报告，2015年人类便生产了4.4ZB数据，是前者的2.2万倍，且每两年还会翻一倍④。这些数据涵盖了人类健康、心理、行为等个体信息，社会的政治和经济信息，以及自然环境、气候变化等自然的数据。人类及其生活的自然与社会环境已经数据化。在数据即资源的时代，人们应该用数据服务社会，促进平等发展，让更多的人共享数字红利(digital p>
坦率地说，人们对暗网的了解仅限于可以搜索到的信息，非常有限；不过，有人相信暗网是互联网藏在水下的90%或更多。有人甚至认为，明网与暗网的数据比为1∶500。人们更相信，暗网不受社会规则约束，是另类技术精英的天堂。暗网一方面利用数据作恶，另一方面也向警方和情报机构提供系统漏洞和黑客工具，为安全公司提供技术指引⑤。其实，人们很难给暗网一个直接的善恶判断。对于这样一个世界，有人为之称道，认为暗网是真正的去中心化世界，是人类理想社会的未来。可问题是，当世界上99%或以上的人在接受现世规则约束，只有1%或更少的人可以进入不受约束的世界时，我们如何能确信他们不会对99%遵守或被强制遵守现世规则的人产生潜在威胁？何况在暗网中具有政治抱负、宣称无政府主义、倡导网络独立主义等的另类技术精英比比皆是。
第二，运用数据作恶。英国《卫报》2018年3月17日报道，英国数据公司剑桥分析(Cambridge Analytica)利用从脸书(Facebook)获得的少量种子数据、公开数据接口和分析技术，获取了5000多万美国脸书用户的个人资料，为特朗普竞选团队分析和预测用户的政治倾向，精准投放竞选文宣，操控潜在选民，间接或直接影响了2016年美国总统大选结果。运用同样的方法，剑桥分析还影响了英国“脱欧”公投的结果。不仅小公司如此，互联网巨头也作恶。在业界，宣称“不作恶”的谷歌也被曝出，即使用户拒绝，谷歌应用还是会坚持搜集用户的位置信息用于多种目的。谷歌曾一再表示，用户可以随时关掉定位历史，只要关掉，用户去过的地方都不会被存储下来。然而，普林斯顿大学研究人员的实验却表明，即使用户关掉定位历史，一些谷歌应用还是会不经用户允许就自动存储有时间戳的定位数据⑥。政府无意作恶，却可能因对技术前沿的无知而为用技术作恶提供机会。2016年8月，澳大利亚政府公布了290万病人的处方和手术等医疗账单。为了保护个人隐私，相关部门删除了记录中病人的姓名和其他身份信息。然而，墨尔本大学的一支研究团队发现，运用公开数据进行信息匹配，很容易识别病人身份，无须经当事人同意，就能获取其完整医疗记录⑦。
自移动终端应用以来，人类活动就会留下数字足迹。哪怕是碎片化的足迹，也可能被有心人运用公开技术建构完整的使用者数字画像。实验研究表明，运用4个手机位置和时点信息便可识别95%的用户⑧。近期，一份志愿者的数据挖掘实验报告引起了广泛的关注。运用6500位波拉(Polar)公司穿戴式健身手表使用者的公开数据，研究者挖掘出了超过200处机密坐标，其中包括125处军事基地、6处无人机基地、18处情报机构、48处核武器存放点，此外还包括美、英、法、俄、荷等国军方和情报人员的姓名和住址⑨。人工智能将是技术应用的又一个里程碑，让人工智能迈向纵深的基础资源也是数据。一部分人对人工智能的积极未来满怀期待，另一部分人则对人工智能作恶充满担忧⑩。机器人可以扫地，也可能自主或被操纵地攻击人类。具有自主性的人工智能(被称为生命3.0)在许多维度的能力都超过人类，人们担心生命3.0可能完全控制人类(泰格马克，2018)。普通人对运用数据作恶的了解少之又少，即使成为作恶的对象也可能浑然不知。尽管如此，疑问却没有因无知而消失：为什么人们在花钱消费的同时却被数据平台消费，甚至被数据伤害？为什么搜集数据的行动者不保护个人隐私而任由数据泄露事件呈现指数级上升(11)？人们怎么可能对公司和政府有意无意地用数据作恶视而不见？何况，还有一个善恶难辨的暗网？
第三，电脑病毒武器化。电脑病毒是伴随计算机和互联网应用的普及而产生的恶意应用。用户无时无刻不在与电脑病毒周旋，既无法躲避，也无法根治。在电脑病毒史上具有里程碑意义的莫过于震网病毒。2010年9月，伊朗称布什尔(Bushehr)核电站部分员工的电脑感染了“震网”(Stuxnet)。这种病毒专门针对在伊朗运行的西门子工业电脑，它悄无声息地潜伏和传播，依据被感染电脑的特征条件自动判断，如果不是位于伊朗的西门子工业电脑，则潜伏，以免引起杀毒应用的关注；如果是，则立即尝试进入可编程逻辑控制器(PLC)添加数据块，监测并向模块里写入数据，以根据需求，实时改变PLC流程，进而改变生产控制参数。在以此为原型拍摄的电影《零日》(Zero Day)中，震网病毒让核电站的离心机进入持续加速状态，最终毁掉了整个设施。震网病毒的里程碑意义不在于其目标性和对工业电脑的威胁，而在于它是一起有预谋的武器性攻击。病毒暴发之后的多源证据表明，震网病毒由美国和以色列两国政府联手于2008年在美国的实验室研制，2010年正式投放伊朗。攻击的目的不是窃取信息，而是自杀式毁灭：利用系统漏洞夺取控制权，向工业设备传递指令，令其自我毁灭。
如果把三类特征现象综合起来观察就会发现一条清晰的线索：作恶都发生在既有规则约束不到的技术综合应用领域，作恶者都是技术精英行动者。对暗网，普罗大众视之为天方夜谭，企业对其黑白难辨，政府对其知之甚少。对运用数据作恶，普通个人没有相关的知识，也没有相关的技术和设施防备；在社会高度互联、数据关联向深度快速发展的前沿，企业游走在善恶边缘，政府也缺乏判断善恶的权威性，对可能作恶的方向甚至都不清楚。对病毒的武器化，社会难以获得扎实证据，企业挣扎在权力与利益之间，政府则可能疏于监管。如此，意味着无数的技术综合应用已经不在既有规则的约束范围。技术曾被更多地理解为积极力量，在人类的经济和社会发展中，技术创新与应用是最重要的推动力量，技术的贡献居功至伟。可三类特征性技术作恶现象却暗示：当下社会时时面临暗网技术之恶的威胁；公司在有意无意中运用技术作恶或为作恶提供便利；政府可能存在技术运用不当；进而再次把技术与社会议题推到了前台。在技术渗透到生产生活细节，且人工智能的未来极为不确定的时代，大量事实都表明，曾经有效约束技术作恶的规则在如今失去了对某些技术行动的约束，人们不得不深深疑虑：人类还有能力治理不断迈向深入的技术化社会吗？
要回答这个问题，需要把三类特征现象放回到技术与社会的历史发展脉络中，看一看技术如何进入人类的社会生活，成为不可或缺的要素，促进了技术化社会的发展？过去，社会如何运用技术为人类的福祉服务，同时又避免用技术作恶？如今，为什么社会看起来失去了对技术作恶的约束？后文的分析将试图说明：技术创新和应用的迭代速度不断加快，约束技术创新和应用的规则迭代相对迟缓，形成了技术发展与治理发展之间的速度差异，进而导致了技术化社会治理因异步困境而失灵。不过，规则与技术的异步不是奥格本(1989)的文化滞后，而是制衡机制的失灵。鉴于将要讨论的内容并非社会学的常见议题，为了促进理解，在讨论异步困境之前，下一节将做一些铺陈性讨论。
