深度：人工智能时代的视觉政治文/姬德强
人工智能时代，后真相的社会进程并没有因为各类 事实核査技术和数字赋权运动的发展而被阻止，反而借 助逐渐成熟和大众化的深度学习技术应用以及以社交媒 体为代表的泛在的传播设施走向新阶段。以平台控制为核 心的“后真相体制”得以巩固。以多边供需机制为特征的 互联网平台在自我规制或者说自我强化的过程中，也借助 大数据和机器学习等自动化技术孵化新的产品形态，从而 在给社会带来新的不确定性的同时，更进一步对社会加以 控制。在这个过程中，技术与人的界限正在各个层面变得 模糊起来，而赛博格正逐渐从想象走向现实。人工智能所 俘获的已经超越了单纯的文本和图片，而是对认知更具基 础性，也更具有迷惑性、煽动力和用户粘性的载体一 视频和音频。这就是自2017年以来被称为“深度”(deepfake)的技术运动，因为借助“深度学习”技术向' 得此名，也被翻译为“深度伪造”。
深度是政治精英、技术专家和新闻媒体话语中的 又一场真假对立，还是预示了一种持续的或者新的权力结 构，超越了真假二元论，从而对社会产生更深刻的影响？
深度简史
英文语境中，“深度”涉及多个词汇，包括 deepfake、deepfakes、deep fak e、deep fakes等。其中，deepfakes是社交新闻网站Reddit的一个用户的名称，该用 户因发布换脸视频和公开深度代码而成为热搜对象。后来，d e epf a ke成为被更广泛使用的概念。根据G o o g l e Trends的统计分析，全球范围内
对上述四个英文词的搜索 在2017年11月至2019年5月期间发生了比较显著的变化。作为发明者的deepfakes主导了初期的热度，但在2018年 中以后明显衰减，更具有现象学意义的deepfake—词逐渐 成为最受关注的概念，并在2019年上半年掀起了另外两 个搜索波峰。
大多数深度都依托于一种深度学习技术——生 成式对抗网络（G A N s)。截至目前，深度的技术展 示大致分为换脸、唇形同步、面部复现和动作转移：由于 有关G A N s的研究和其他深度学习技术的公共可获得性，以及以社交网络为代表的互联网平台公司的渐次进入，深度的大众创造能力正在迅速蔓延，并成为一个新的技 术运动.进而导致与打假的矛盾循环。简言之，“深 度”指的是把图片和声音输入机器学习的算法，从而 可以轻易地进行“面部操作”—
—把一个人的脸部轮廓和 表情放置在其他任何一个人的脸上，同时利用对声音的逼 真处理，制造出实为合成却看似极真的视频——用以躲避 识别、混淆视听、娱乐用户，以及实现其他虚假宣传的目 的。当然，这一技术并不单纯用于换脸，还被较少争议地 应用在影视、健康和教育等其他行业之中。
Britt Paris和Joan D o n o v a n在全面梳理这一技术运动的 报告中提出了一个“深度一廉价”光谱，其主要 标准是所使用的技术的复杂性。其中，深度位于光谱 一端，高度依赖数据和计算，较少被大众所接触；而廉价 位于另一端，借助一些廉价乃至免费下载的软件，消费者不需要特殊的专业知识和技术能力即可通过终端加 载的调整速度、摄像头效果、更换背景等实现换脸等操 作。廉价造
假呈现出巨大的娱乐效果，从而进一步使 现象及其社会效应复杂化。斯坦福大学研究员T o m V a n de W e g h e联合计算机、新闻等行业的专家，成立了“深度造 假研究小组”，总结出深度发展至今的六条基本趋 势，即：应用的大众化和终端化，算法的平台化，扩大的 商品化，不曾停歇的猫鼠游戏，区块链技术的重要性、公 众自身鉴别能力的提升。
深度不仅是一种技术迷思和技术景观，而且是一 个充满变动的权力场域。这一场域受到多种政治、经济和 技术力量的干预。自2017年出现并流行以来，关于深度造 假最具代表性的怀疑论点来自被虚假信息和假新闻所动摇 的理性主义真相观，尤以新闻专业主义为代表。然而，本 文认为，真相的瓦解与重建并不能改变深度的技术趋 势，需要关注的应是深度如何参与型构了新的平台控 制，并依托怎样的经济动能完成平台的可持续再生产。
深度后真相：理性主义视野中真相的最终瓦解？
深度之所以被政治和社会领域所关注，•洽恰是由于精确换脸对这些领域中真相的认识论的进一步瓦解，以及造成的有关传播失序的道德恐慌。始自2()16年的与美国
文化
大选相关的后真相和假新闻，挑战着如今升级为更具颠覆 力的深度，进一步挑战着传统的真相观，
或者更精确 地说，传统上拥有真相定义或制造权的专业权威：本文将 这一新阶段称为“深度后真相”延续理性主义的逻辑，“深度后真相”具有两个方面的特征：
第一，视觉客观性的瓦解。自从摄影术、视频、射线 扫描技术出现以来，视觉文本的客观性就在法律、新闻以 及其他社会领域被慢慢建立起来，成为真相存在——或者 更准确地说，建构真相——的最有力证据。“眼见为实”成为这一认识论权威的最通俗表达；与此同时，视觉文本 的制造者和阐释者也顺理成章地成为真相的最权威定义者 和阐释者。在这个意义上，视觉客观性产自一种特定的专 业权威体制。然而，深度的技术优势和游猎特征，使 得这一专业权威体制遭遇前所未有的挑战。借助这一体制 生产的视觉文本，深度者替换了不同乃至相反的文本 内容和意涵，造成了文本的自我颠覆，也就从根本上颠覆 了这一客观性或者真相的生产体制。除此之外，借助“云 服务+终端”的平台化网络架构，更加廉价和智能的深度 终端应用进一步扩大了这一体制瓦解的负面效应。对 视觉文本的广泛不信任将严重影响社会的政治进程和传播 秩序。
第二，新闻专业主义的自我救赎。这无疑是新闻专 业主义权威在后真相时代的瓦解与重建的新阶段。面对视 觉化后真相时代的到来，在更具传播力和煽动性的深度造 假视频面前，传统媒体的解决方案依然是到兼具意识形 态和操作规范的专业主义。比如，为了应对深度的来 临，《华盛顿邮报》设立了“媒体求证委员会”，汇集了 视频、摄影、视觉、研究、平台和新闻编辑在内的各种力 量，通过内部训练提升甄别深度的能力在拥有深度 学习能力的深度技术面前，传统媒体依然坚守了基于 主客
体二元论和新闻业独立性的专业主义立场，认为成就 自身专业水准的那些能力依然可以保证真相的可获得性。然而，虽然拥有这些制造真相和核査真相的专业技术，但 深度快速崛起的现实以及传播与核査之间富裕的时间 差，使得传统媒体在多大程度上能够有效应对网络化生产 和散布的视频，乃至继续扮演民主的守门人角，成 为一个难以回答的问题。当下，深度可能是假新闻在 质量上的变化，也就是采用包括人工智能在内的更加复杂 但越来越廉价和可以被用户端所轻易使用的技术，未来也 可能在数量上超出以往任何时期。
简而言之，深度正在影响乃至控制着人们对政 治世界和社会政策的认知，也因其多义性使得不同意见 体可以进行多元解释。在进一步瓦解真相的理性建构观的 基础上，深度参与形塑着正在崛起的平台社会。在这 里，人与人的互联被数据化、商品化和互联网平台的算法选择或者说算法偏见所型构。真与假的二元对立关系被替 换为渠道与内容的供需关系，复杂的政治后果背后隐藏着 平台经济的精明算计：
视觉控制：深度的政治内涵
随着深度被广泛使用.其侵入政治领域所激发 的有关真假与民主的关系的讨论，再次加深了全社会对后 真相时代的体认。2016年以来，后真相时代假新闻的出现 “恰逢”全球范围内政治诚信的危机和民粹主义政治的兴 起.深度自然也是这一“历史巧合”下的产物或者延 伸，而视觉传播赋予了深度后真相以生命力。
首先，在西方，深度干预政党竞选并扩大政治 分裂。围绕深度的讨论大多与2020年美国总统大选有 关。2016年以来，深受假新闻和社交媒体干预的美国竞选 政治，在快速发展的传播技术面前表现得异常紧张。电影 人Jordan Peele曾使用深度技术，借用奥巴马的脸来向 公众发出警示，让公众警惕深度的危害。但深度 视频的病毒式传播往往早于对假视频的识别结果，尽管或 早或晚会被证实，但在这一时间差内，视频借力 社交媒体平台的传播效果已经显现，而改变人们已经形成 的认知就变得异常困难。在这个政治语境屮，深度并 不是简单地加剧了真与假的分离，而是进一步撕裂了政治 鸿沟，从而导致更加严重的社会分裂、更极化的政治立场 和更激化的社会矛盾。因此，深度也被认为有可能成 为未来虚假信息战的武器，被各方政治力量所使用。简言 之，如果作为独立监督力量的传统媒体已经深陷假新闻和 党派政治的漩涡.而作为替代性的网络平台也被无法追踪 来源的虚假信息所充斥，甚至通过视觉在最基础的认 知层面传递误导性信息和煽动性言论，那么，西方民主的 根基——理性的公众——就面临崩塌的危险。
其次，从地缘政治的角度而言，深度正在威胁国 家安全，其核心是对域外信息控制的担心各国的国防系 统巳经成为研究深度的前沿力量，以提防深度的 “武器化”。正如美国国防部联合人工智能中心主任Jack Shanahan中将所说：“深度是一个国家安全问题，国防部需要在能够对付它的技术上投入巨资。”美国2020年 的《国防授权法案》中就提出要资助检测深度的技术 创新，因为深度已经威胁到美国的国家安全。法案 要求开发检测和利用深度的技术，以应对机器主导 的媒体和潜
在的外国力量利用这一技术武器，散布虚假信 息以影响美国大选。与此同时，以民主党参议员Jennifer W e x t o n为代表的政治势力也向以脸书为代表的社交媒体施 压.希望其有效甄别和控制蓄意的视频。由此.深度 与国家机器的绑定更加清晰不管是虚假视频还是
114拉会科学文
文化
其传输渠道.都成为涉及国家安全的重要方面。
再次，视觉控制除了内容，更涉及虚假内容的网 络化传播。于是，这一项政治议程指向了社交媒体平台。社交媒体的渠道霸权和平台中立性主张往往成为深度 产生强大传播效果和广泛政治影响的技术前提。中立是否 政治无赦？一方面，从平台的外部性而言，“网络中立 性”原则在美国被提出和被废止的短暂历史已经说明不同 的政治立场很难在这一点上达成一致，中立往往成为一种 表达立场的政治修辞；另一方面，正如Tarleton Gillespie 在其《互联网的守护者》一书中所揭示的，尽管平台公司 的领导者往往把自己呈现为中立的中介角，但却无法掩 盖平台组织和选择内容的事实。他将这一点描绘为平台的 “不可调和的矛盾”。在这个意义上，平台孵化了深度造 假的应用，也利用深度生产着分裂的网上公众，使后 者更依赖平台进行信息发布、意见表达和运动组织。
需要注意的是，平台控制也有着丰富的地缘差异，从而导致了视觉控制的宽度和力度。如果深度可以依 托源自北美的社交媒体体系（如脸书和推特）达到特定的 政治宣传和政治动员的目的.那么在中国，具体问题就不 是情绪表达乃至政治攻讦。中国虽然同样具备深度的 技术条件和平台化水平，但虚假视频一般不会涉及政治领 域，而是存在于相对去政治化的社交空间中。这显然是中 国特定的政治与媒体关系、对于互联网的治理方式所决定 的，但这并不意味着深度视频不会对中国的政治议题 和政治环境产生影响，相反，它会继续以收割社交媒体流 量的方式将传统媒体为代表的权威信源边缘化，从而在客 观上导致政治讨论的去中心化。
reddit平台动能：深度的经济价值
后真相体制是一个有关真相的游戏。游戏的基础有 二，一个是高度分裂的社会，另一个是注意力经济，即网 络参与的数据化和商品化。二者对互联网平台而言，缺一 不可。深度的兴起恰恰符合这一政治经济逻辑。另外，依托应用平台和社交平台的网络化效应，深度正 在转向“廉价”，其潜在的经济价值正在被各个互联 网平台所发掘。
对承载着后真相时代虚假信息的散布的社交媒体平台 而言，吸引注意力、增加用户粘度、成为互联网的入口，从而带来更多、更稳定流量的商业考虑往往优先于事实核 验和理性辩论。在平台或者生态系统的中立性修辞表象 下，对这些平台企业而言，真与假的辩证其实并不重要，对其公共性的诉求也超出了其
组织承载力。与此同时，这一去政治化的实用主义商业动机也内嵌在各种算法逻 辑中，从而通过作用于社交媒体时代大众的信息消费和情感表达心理，促成了特定信息的快速流通和大量消费，最 终也不可避免地产生了更加广泛的政治与社会后果。这也 是以荷兰学者Jose van Dijck为代表的丰台社会研究者们所 关心的核心问题.即如何让一个私有并且商业化运行的互 联网平台系统在创新的规制体系下发挥公共服务的功能，而不是任由商业价值侵蚀公共价值。在这里，资本借由技 术变成一种直接的建构性力量，造就了一个“平台资本主 义”时代的到来。在这个意义上，各类应用作为平台经济 的代表，本身就是资本积累的重要工具。
深度共享了平台社会的一系列基本原则，并逐渐 演化为平台经济的一种内容商品，成为互联网企业突破增 长瓶颈的新选择。按照Jose van Dijck等人的分析，平台设 施在社会中的扩张依赖于其基本过程。第一，数据化，即尽可能多地、系统性地获取用户信息。对深度而言，这也是深度学习、机器训练的基础，社交媒体平台提供了 获得数量庞大的用户视频资源的可能。第二，商品化，即 将线上行为转化为可以交易的产品。深度的商品化首 先体现在注意力经济，其本身就具有挑战既有认知框架的 反常性特征，能够有效促进从点击到转发的网络行为；其 次，社交平台以服务用户为名，使用用户自制内容而不需 要付费，尤其是依托深度客户端而上传的用户视频素 材和制作的合成视频。除此之外，就社交媒体平台而言，其内嵌的“技术法则”虽然出自技术专家之手，包含了技 术、产品和文化的逻辑，但大多服务于其母公司（多为私 营）的商业模式。而截至目前，社交媒体平台的主要商业或 盈
利模式，在喧嚣的技术神话和商业概念泡沫的掩盖下，jfct得像传统媒体一样古老。Jakob Rigi和Robert Prey将之总 结为两个方面，即广告空间的租用和虚拟资本所期待的意外 之财。通俗来说，就是广告收入和在股票市场的表现。
小结
进入人工智能为技术基础的深度后真相时代，深度造 假进一步用超越人类识别力的技术，模糊了真与假的界 限，并将真相开放为可加工的内容，供所有参与者使用。在这个意义上，深度开启的是普通人参与视觉表达的 新阶段，然而，这种表达方式还会结构性地受到平台权力 的影响，从而使得极端言论更容易被选择和被传播。在 N i e m a n L a b的Rubina M a d a n Fillion看来，“威权主义的_起 与深度一使用人工智能软件创造出逼真的影像——的 繁荣巧合地同时出现”，与核査事实、澄清真相相比，对 于偏见的确认似乎更具有影响力。换句话说，对带有偏见 的影像的肯定和散布，远比获取事实来得容易。S
【作者单位系媒体鼬合与传播国家重点实验室（中国传媒大学）：摘自 《新闻大学》2020年第7期】
115

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。