《AI的批判表面》
作者：[瑞典]西蒙·林德格伦
译者：周亦张
版块：南京大学出书社·渴望者
2026年8月
期间总揽论（technocracy）的办法在一定进度上与各人总揽（expert rule）的办法同义，有着悠久的政事历史。它呼应了柏拉图对于哲东谈主王的不雅点，哲东谈主王领有总揽普通东谈主的“真确学问”；它还体咫尺圣西门对于应将分娩已矣最大化作为最高社会指目的不雅点中；它也反应在这一情况中——在工程专科学问的鼓励下，泰勒主义（Taylorism）渗入进料理、政事和东谈主们的日常生涯。在期间总揽论的社会体系中，期间和期间专长被赋予了治理权，因此看似客不雅的期间过程正在携带和决定着总计这个词社会。
AI等边界的期间跳跃无意显得宠不行挡、难以连结，并超出了东谈主类的截至和选定。好像独一有期间上的契机去完成某些事情，咱们就应该永久尝试这么作念。这种想维源于发蒙时期对跳跃的看法，认为信息和期间具有无边的解放作用。东谈主们认为，更多的数据取得形状和更好的分析能力将使社会受益。
在《单向度的东谈主》一书中，批判表面家赫伯特·马尔库塞警示了一种基于简易的期间感性的社会。这便是当期间的可能性被用来决定咱们应该领有哪些社会和政事指标时，咱们所竖立的那种社会。马尔库塞劝诫说，他阿谁时期的先进工业社会可能会产生“作假需求”。一样，咫尺也存在一种风险，即快速发展的AI期间提供的总计可能性，齐让咱们深信咱们“需要”某些“搞定决策”，而这只是是因为它们在期间上是不错竣事的。换言之，AI解放意志主义和期间总揽论之间存在彰着的辩论，前者是后者的“现代更新版块”。
对于期间总揽论的扎眼分析，咱们不错回到马尔库塞的著作《现代期间的一些社会影响》，他在文中写到了东谈主与期间之间的关系。他的推理鉴戒了早期表面，即期间感性作为工业老本主义发展的一部分，若何促成了一个基于冷情的、筹算的逻辑的社会。人所共知，经典社会学家马克斯·韦伯敷陈了现代社会中的东谈主是若何被动参加感性、可筹算性和官僚主义的隐喻性“铁笼”的，在这个铁笼里，任何自愿行径齐被舍弃了。韦伯证实说，之是以会如斯发展，是因为“它比任何其他神志的组织齐更具有简易的期间上风”。事实上，就像韦伯时期的工业机器一样，今天的AI驱动的决策和自动化安装也提供了雷同的东西：“精确性、速率、明确性、对档案的了解、连气儿性、严慎性、调处性、严格的附属关系、较少的摩擦。”咱们不错阅读刻下提供AI自动化的企业的营销材料，举例：
你是否同期使用多个居品、供应商和用户界面（UI）来进行决策？若是你能有一个单一的用户界面来料理总计的期间搞定决策，并使你解脱对信用风险周期的碎屑化且不完整的看法，那会奈何样？(Provenir, 2022)
通过智能经由自动化做事改造你的职工军队，为你勤俭资金，提升准确性并提升分娩率。(TietoEVRY, 2021)
（咱们的）自动化招聘软件通过提供以下做事来赋能招聘东谈主员，使其作念到最佳：每次齐提供稳当你尺度的精选候选东谈主；通过分析，快速了解你若何追踪招聘指标。……咱们不是一般的AI招聘软件。（咱们将）机器学习与东谈主类瞻念察力相搭伙，使顶级团队能够快速建构各种化、及格的候选东谈主渠谈，而无谓奢靡总计时辰来寻找东谈主才。(fetcher, 2022)
这种推行标明，这项期间有后劲提供——用韦伯的话来说——精确性、速率、学问、严慎性，以及较少的摩擦。然则与此同期，与韦伯的分析相呼应，这也以“严格的附属关系”为代价。正如马克想所写，在工业老本主义中，工东谈主“作为商品在商场上出卖”。这与AI招聘提供“批量”候选东谈主和候选东谈主“渠谈”的想法相称相似。
图源/unsplash
AI系统在孕育不健康的合理化和商品化方面具有强盛而危机的后劲。在这个兴趣兴趣兴趣兴趣上，AI老本主义与工业老本主义莫得什么不同。妙技和机器是新的，但目的和后果是趋同的。与加州相识形态的特征雷同，社会表面经典所形容的早期工业老本主义以一种当然化的、不行扞拒的相识形态为特征。社会学家托斯丹·凡勃伦写谈，这项期间是“盲目和不负背负的”：
因此，这项期间的逻辑便是机器过程的逻辑，一种关乎质地、速率、张力和推力的逻辑，而不是个东谈主的灵巧、猛烈、考试和通例的逻辑……
回到马尔库塞，他想批判的恰是这种精确的期间感性。他详细了将期间视为一种社会过程的不雅点。“期间自身”，即AI系统、算法、机器学习模子这些期间物自身，只是“期间”举座的一部分，而举座还包括社会元素。期间是在社会语境下创造的，AI也不例外。马尔库塞强调，期间是社会不行或缺的一部分，反之亦然，这不仅体咫尺“发明或照拂机器”的东谈主（AI开采东谈主员、部署东谈主员、东谈主机回圈中的东谈主）身上，而且体咫尺它所针对的社会群体以及使用它的东谈主身上。换句话说，马尔库塞认为，期间不仅与小用具辩论，还与它们塑造社会组织并参加社会关系的形状辩论。再次强调，这是一种装配。期间不错体现社会中无边存在的想维和行径模式，进而可能成为总揽和截至的用具。
马尔库塞认为，恰是在这个框架内，跟着历史上期间的发展，社会中竖立起了一种新的感性和新的社会步伐。他所形容的期间感性既不是“机器”对东谈主的胜仗影响，也不是孳生影响。相背，对于期间感性的想想自身亦然“机器发展的决定性要素”。在AI装配的语境下，这种不雅点意味着AI既在塑造社会，也在被社会塑造。
恰是通过物资-期间维度与相识形态维度之间互相增强的交互作用，期间感性在工业老本主义中被成立为“无边的想维模式”，它“竖立了判断尺度，培养了作风”。因此，除了就特定AI应用忽视那些诚然迫切但大概相对短视的伦理与公道问题，咱们还必须探讨这些期间若何能够更平时地成为社会生涯的指南。马尔库塞通过一件逸闻证实了期间感性的办法：
让咱们举一个浅薄的例子。一个开车去远处的东谈主在公路舆图上选定他的道路。城镇、湖泊和山脉似乎是需要绕过的蒙胧。乡村是由高速公路塑造和组织的：东谈主们在路上发现的是高速公路的副居品或附庸设施。很多标志与海回报诉旅行者该作念什么和想什么，它们甚而条件他隆雄壮当然的灿艳或历史的钤记。其他东谈主已为他作念了探究，这大概是为了更好的体验。东谈主们在视线最轩敞、最令东谈主咋舌的地点建造了便捷的泊车场。巨大的告白牌告诉他什么时候停驻来，休息片时，舍弃疲倦。这一切确乎是为了他的利益、安全和欢娱；他得到了他想要的东西。生意、期间、东谈主类需乞降当然和会在一谈，形成了一个合理而便利的机制。谁谨守它的指令，让我方的自愿性效劳为他安排一切的匿名贤人（anonymous wisdom），谁就会旅行得最欢娱。(Marcuse, 1941, 46)
马尔库塞在这里说的是，在一个由期间感性总揽的社会中，（太多）事物被尺度化和截至。即使咱们与环境中的更多非结构化的部分（“湖泊”和“山脉”）产生关联，它们也很容易被视为蒙胧。当AI模子过度简化推行时，它们会这么作念吗：告诉咱们什么是迫切的，告诉咱们该为哪些气象陶醉，告诉咱们在那处“泊车”，在那处“停驻来”？
筹算机科学家杰森·S.梅特卡夫偏激共事在撰写AI和相关期间为何没能领路后来劲时，强调了这个问题，主要原因是东谈主们无边倾向于过度简化东谈主与期间之间的互相作用。“总计模子齐是颠倒的”是统计学中的一句常见格言，何况咫尺很多机器学习的应用门径里有一种趋势，即通过使用过于简化的算计尺度来判断预计的价值。正如生物学家所证实的那样，这可能会导致对“分类器在推行天下场景中的适用性”的“无邪”假定。AI所面对的一个伦理问题与“将复杂问题过度简化为单一算法输出的担忧”辩论。
马尔库塞对于旅行者的逸闻忽视的另一个问题是，在受期间感性左右的社会中，东谈主们被“匿名贤人”陈诉“该作念什么和想什么”。AI是连年来定向告鹤发展的一个要道构成部分，通过定向告白，在线的主体被算法识别出来，并被指点向特定的消费理念或神志。正如肖莎娜·祖博夫所形容的那样，这种算法告白象征着她称为“监控老本主义”的“新兴积存逻辑”。一样，克里斯蒂安·福克斯认为，在数字老本主义中，定向告白是一种常见的作念法，Meta等公司借此荫藏其“对用户行为的克扣”；而这会产生“用于销售定向告白和赚取多量利润”的数据。这相称契合讲究已矣、合理化和利润的相识形态。IBM沃森在这一边界的使命告白如下：
告白中的AI是指在机器中模拟东谈主类智能，这些机器被编程得像东谈主类一样想考，并字据投喂给它们的信息师法东谈主的行径。它们应用历史数据从昔时的教化中学习，并在翌日作念出更理智的决策。告白商不错使用AI创造更个性化的体验，精确定位指标受众，更快地作念出决策。(IBM,2022)
AI驱动的告白倾向于为咱们作念出选定，就像电视、电影和音乐流媒体做事中的算法一样，指引咱们接下来看什么或听什么，这与科技玄学家刘易斯·芒福德在《期间与漂后》一书中对于东谈主类的不雅点相呼应。他在书中将工业老本主义中的东谈主形容为“客不雅东谈主格”（objective personalities）而不是“主不雅东谈主格”（subjective personalities）。前者的倾向和行径是通过“机器过程”的“事实性”来互助与尺度化的。明显，在AI行业中，东谈主们顾忌其系统中潜在的偏见问题。但IBM写谈：“尽管在处理AI时，偏见可能对告白商来说是一个挑战，但若是部署适合，机器学习期间也不错匡助消弱告白行为中的偏见。”他们的论点说白了便是，更多、更好或其他的AI将搞定AI的问题。但正如芒福德近一百年前所说：
认为机器变成的社会窘境不错只是通过发明更多的机器来搞定，这在今天是一种不熟习的想维的标志，近乎江湖骗术。(Mumford,1934,367)
萨多斯基证实说，那些遵命期间感性相识形态的东谈主，即期间总揽论者，深信他们有一套不错用于搞定任何问题的用具。随之而来的是“深深的豪放”“对自身局限性的止境无知”和“对其他方法的止境漠视”。马尔库塞认为，这种想维导致东谈主类顺应了莫得真确自主性的“安装”。迫切的是，通过这种形状，安装的逻辑特等了期间边界，蔓延到社会、文化，甚而个东谈主的想想中：
东谈主类行径被配备了机器过程的感性。(Marcuse,1941,47)
图源/unsplash
作为补充例证，科幻作者和翌日主义者斯坦尼斯瓦夫·莱姆在他的《期间大全》一书中写了期间若何“在自身进化的过程中逐阵势截至着险些总计这个词社会初始机制”。马尔库塞进一步认为，跟着“驯从机制”（mechanics of conformity）从期间边界传播到社会步骤中，这些机制不仅将成为机器的料理者，还将成为学校、使命局面、社会组织以及东谈主们私东谈主生涯的料理者。就AI驱动的保举系统和AI助推（nudging）而言，存在一种潜在风险，即咱们正走向马尔库塞所言的状态：批判性想维被视为“社会性的窝囊”，因为东谈主们的想想在“期间感性的影响下”变得尺度化。
这里的危机之处在于，咱们的生涯和想想越受到期间感性的影响，质疑或反对近况的批判感性的空间就越小。因此，期间总揽论宣称我方是充分优化的、客不雅的和高效的，从而将其“搞定社会问题的决策看成低效政事门径的实用替代品”。应用一种不无缺的算法详情比深远磋议性别敌视、种族主义等问题更具勾引力，也更有益可图。正如萨多斯基所说，期间总揽论和加州相识形态的解放意志主义之间也有彰着的辩论：
独一听过在硅谷大受迎接的企业家、工程师和高管的主题演讲，就会合计期间总揽论的想维模式——所谓的非相识形态的相识形态——很耳熟。这包括埃隆·马斯克对乘坐民众交通的厌恶（搞定决策是地下纯碎），以及投资者马克·安德森对印度停止脸书向新商场彭胀的震怒（搞定决策是拥抱殖民主义）。(Sadowski, 2020, 68)
正如萨多斯基所指出的那样，期间总揽论的一个彰着危机在于，尽管它看起来是“非相识形态的”，但它详情是相识形态的。跟着期间被视为一种当然力量，期间天才和巨头被视为辅助天下的好撒玛利亚东谈主（Samaritan），问题永远是若何作念，而从来不是为何作念。在这个兴趣兴趣兴趣兴趣上，期间总揽论是一种威权主义神志，它躲闪了民主决策，羞辱了谈德复杂性，有益于“遐想通往乌托邦之路”的各人，而“总计东谈主类价值不雅齐不错被忽视、弱化或再行界说为期间参数”。
本文摘自《AI的批判表面》一书，经出书社授权刊发。
原文作者/西蒙·林德格伦
摘编/张进
剪辑/张进体育游戏app平台