人文科技
0 引言
人工智能相关话题近年逐渐成为热点。2018年，人工智能成为国民热词。在百度发布的2019年科技领域的十大热词中，AI即人工智能占据榜首，成为网友最关注的热词，此外，AI寻人也位列前十［1］。这反映出人工智能不仅是科技领域的一个热点，其相关的应用也深入日常生活。
但正如贝克和吉登斯所说，技术和风险是相互关联的，一个充满风险的社会是人类无法逃逸的，承受人类自身活动所制造的各种“风险”是当代人类的宿命［2］。这反映了当前社会中的一些风险其实是人类自己制造出来的。比如AI换脸技术就是在人工智能技术的基础上产生的，但在使用中却存在一些问题，而该技术带来的问题也是人工智能发展会带来的问题。对AI换脸技术带来的风险问题进行防范，有利于解决未来人工智能带来的更多问题。
1 我国人工智能的现状
人工智能的发展不断改变着人类的世界。为了抓住人工智能发展的重大战略机遇，2017年国务院印发了《新一代人工智能发展规划》（下文简称《规划》）的通知［3］。《规划》对我国的人工智能发展提出了三步走的大战略。第一步，到2020年人工智能总体技术和应用与世界先进水平同步；第二步，到2025年人工智能基础理论实现重大突破；第三步，到2030年，人工智能理论、技术与应用总体达到世界领先水平。
2018年，中央政治局就人工智能发展现状和趋势举行了第九次集体学习。习近平总书记在主持学习时强调，人工智能是新一轮科技革命和产业变革的重要驱动力量，加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。
中国科学技术发展战略研究院、科技部新一代人工智能发展研究中心联合国内外十余家机构编写了《中国新一代人工智能发展报告2020》。该报告反映了《规划》的实施情况，同时揭示了未来发展的新挑战和新趋势。
十九大报告明确了要推动人工智能、互联网、大数据和实体经济深度融合；十九届四中全会也两度提到人工智能。在十四五规划中，为了强化国家战略科技力量，发展战略新兴产业，也对人工智能的发展提出了要求。
国家领导人的讲话以及一系列的规划，深刻反映了人工智能技术的重要地位。但正如风险社会理论所展
示的：现代化以来，处于支配地位的风险正逐渐由自然风险转为人造风险，制度失范致使人类无节制地利用技术在
探索未知世界的过程中，不断地制造出各种可能危及人类文明的技术风险，加剧了人类社会秩序与伦理道德现实危机［4］。而人工智能技术的应用确实带来了一些风险，比如AI换脸技术。
2 AI换脸技术的现状与问题
AI换脸技术是人工智能部分功能的深层应用，此技术最开始与电影制作有关。好莱坞在制作一些特效电影的时候，就使用过类似的技术，如CGI技术。在拍摄电影《速度与激情7》时，因为主演沃克突然逝世，电影制作方不得不运用CGI技术加替身演员的方式制作沃克剩余部分的戏。但是，这项技术比较花费成本和精力。
2017年12月，国外一个名为Deepfakes的用户发布了通过机器学习更换视频人脸的AI算法，后来这个算法被称为Deepfakes。不过彼时该技术要求比较高，需要进行代码编译。几个月后，随着Deepfakes技术的简版AI换脸工具FakeApp的出现，普通用户也能够顺利操作。由此，AI换脸带来了一系列的问题。
《神奇女侠》《哈利·波特》《这个杀手不太冷》的女主们以及斯嘉丽·约翰逊等不少明星都被人使用AI换脸技术恶搞过。扎克伯格也曾受到AI换脸的影响，2019年一段关于他的伪造视频以负面论调讨论Face
book的影响力。实际上，这段视频是一家以列科技公司基于2017年扎克伯格的采访视频，采用AI换脸技术制作而成的。2019年5月，美国众议院民主党领袖佩洛西也被AI换脸假造了一条视频，在这段视频里，佩洛西说起话来像是喝醉了酒［5］。
除了在国外产生了不良影响，AI换脸技术在国内也引发了一些问题。
在国内，一款名叫“ZAO”的软件利用AI换脸技术，使该技术进入大众视野。该软件仅需一张照片就可以替换各种视频作品中的人物，使用户成为视频作品中的主角。这款软件最引人争议的是用户协议中的部分内容，如第六条第一款规定，“在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予ZAO及其关联公司以及ZAO用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑……以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利”。这些规定使该APP能过度攫取用户数据，并在无形之中将用户的肖像直接转让给他人，让其他人随意使用。协议第七条第七款规定，“若您侵害他人名誉权、肖像权、
人工智能技术的风险问题与应对
——以AI换脸为例
唐圣倬
（上海工程技术大学管理学院，上海201620）
摘要：人工智能技术的研究与应用已经成为当前科技领域的热点，但随着人工智能技术的发展，暴露出的各种风险问题也需要引起重视，与人工智能相关的AI换脸技术已经引起了争议。要对人工智能技术进行有效的规范，需要从治理理论视角出发，从国家、市场和社会三个方面进行有效的监督和规制，防止人工智能技术带来各种严重的社会问题。
关键词：人工智能；AI换脸；风险；治理
中图分类号：TP391.4 文献标识码：A 文章编号：1004-9436（2021）03-0044-03
44
第34卷第3期 2021年02月
Vol.34 No.3
February  2021艺术科技
知识产权等合法权利……ZAO可以诉诸行政执法机构或司法机关，追究相应法律责任。若因您违反本协
议或ZAO平台的其他规则导致任何第三方损害的，您应当独立承担法律责任并承担损害赔偿责任；ZAO及其关联公司遭受损失的，您也应当一并赔偿”。这一条款使APP公司能转嫁责任，法律责任几乎都由用户承担。
使用AI换脸技术带来的各种风险问题在国内外都引起了各种争议，总结起来主要有四个方面的问题。
2.1 道德和法律方面的问题
使用AI换脸技术，将一些名人放进视频，甚至中，这种做法侵犯了当事人的肖像权和名誉权，严重时可能涉及侮辱罪。如电视剧《都挺好》播出后，网友利用AI换脸技术将剧中人物苏大强换成演员吴某某在网络上进行传播，使部分网友对苏大强的扮演者进行了大肆侮辱和谩骂，这对演员本人名誉造成了损害［6］。这种“捏造损害他人名誉的事实，在信息网络上散布”达到一定程度时就会造成侮辱罪。此外，将演员的脸换到中进行传播，当达到一定传播次数后可能涉嫌传播淫秽物品罪。
2.2 有损信息真实性的问题
AI换脸技术的使用，使视频也逐渐变得不真实起来。网络时代，本来就有大量虚假信息，视频相对于各种虚假的言论和图片更加可靠。但是这种技术的出现，使原本可靠的信息也逐渐不可靠，有时需要靠视频来锁定真相，但这种情况下也需要核实视频是否是伪造的。这些情况都有损信息的真实性。
2.3 个人信息安全问题
2017年，信息安全标委会公布了《信息安全技术个人信息安全规范》，这份规范确定了个人生物识别信息比如脸等属于个人敏感信息。AI换脸技术收集的人脸肖像信息属于生物识别信息。当这种信息被企业所掌控的时候，就会出现各种风险问题，个人信息的滥用就是其中之一。如一些公司可以想办法使这些个人信息成为企业的私有财产，而企业得到这些信息后，可能会出现个人信息被买卖或者用于互联网企业共享的情况，但这往往并非用户自愿。在收集了个人信息之后，还可能存在受到黑客攻击或数据库出现故障等各种情况导致信息泄露，一旦信息泄露后果就很严重。如2019年深圳一家与人工智能相关的公司就被曝出发生大规模数据泄露事件，其中包含超过256万人的个人信息，相关记录大约有668万条，据称该公司的有关数据从2018年7月起就可以被任何人随意访问［7］。
此外，人脸作为生物识别信息，很多时候是个人资产密码。但是AI换脸技术的出现，可能会对刷脸生物技术带来挑战，从而给刷脸支付带来一定的风险。
2.4 其他各种风险
AI换脸技术也会给社会带来一些不的因素，甚至对国家政治产生影响。AI换脸可以伪造一些有社会影响力的人的视频，进而散播一些对国家和社会不利的言论，从而引起社会的不安和政治的不稳。
在新理论和新技术的驱动下，包括AI换脸技术在内的各种人工智能技术不断更新和发展。技术的提升会带来风险的聚集，导致各种事故频发。贝克认为风险的创造伴随着人类现代生活的创造。现代生活不断扩张，风险也会不断显现出来，现代工业和技术的蓬勃发展，构成了复杂的城市空间和社会系统，一旦技术风险引发事故，将给人类带来巨大灾难［8］。这就需要对人工智能技术可
能带来的风险问题做好预防措施，以防造成严重后果。
3 优化建议
由于人工智能技术的潜力巨大，国家提出了发展人工智能的要求，市场中有很多科技公司在不断研发人工智能技术，而社会中的每一个人都是人工智能技术的使用者以及人工智能风险的承担者，因此人工智能带来的巨大风险涉及社会中的每个人。为了减少人工智能技术带来的各种风险，需要从治理理论的视角出发，从多元主体入手，对人工智能技术进行监管。
3.1 政府层面
政府需要做好两手准备，既要引导人工智能技术的发展，同时也要做好监管工作。政府要对人工智能技术的开发和使用情况进行监管，一旦有越界的行为需要及时制止。政府要配合做好引导立法的工作，同时政府自身也需要设立有效的行政法规，明确人工智能技术不能突破的底线、禁区，建立人工智能技术的准入制度。
3.2 市场层面
对于正在研发和已经使用人工智能技术的公司，需要提升公司整体素养，对用户的信息进行严格保护。研发人工智能技术不能违反伦理法律，要牢记人工智能是给国家和社会带来益处的，而不仅是追求利益的。同时，在行业内部要构建业内的监管规则，让行业内部能有效进行监管。对已出现问题的人工智能技术，如AI换脸，公司需要进行自我反思与检讨，同时要到相应的对策，如开发破解AI换脸的技术。此外，要在行业内形成一股“科技向善”的风气，技术无好坏，应引导向善，用技术为人类带来福祉，只有在此基础上，AI融入企业、生活，才能带来可期的未来［9］。
3.3 社会层面
人工智能的部分技术会在社会中应用，这就要求社会中的个人在使用相关技术时保持谨慎。在使用前要考虑这些技术有没有可能侵犯个人隐私，会不会产生各种道德法律问题。同时，对于技术供应商在用户协议中的一些条款要倍加留意，当发现使用某些AI技术会带来风险时，一定要及时反馈给监管部门，同监管部门构筑起一道完整的监督防线。
此外，媒体组织具有巨大的影响力，也有能力对人工智能技术的应用进行监督。媒体要守住行业底线，如实反馈人工智能技术在应用中出现的各种风险问题，对于已暴露出来的问题，一定要及时发布消息告知公众。同时，媒体也需要做好舆论引导工作，既要让公众认识到人工智能发展对社会的益处，不让公
spider软件众过分恐惧人工智能，也要让公众对人工智能的发展不过分乐观，明确科技和风险是相伴相生的。
4 结语
人工智能技术的发展会使人民的生活变得更好，但它是把双刃剑，其背后潜藏的风险也是不容忽视的。继AI换脸之后，据报道，有些企业已研发出拟真度相当高的AI变声应用，并利用AI变声应用，成功了数万欧元。此外还有人开发了类似Deepfakes的技术叫Deepnude，这项技术可以自动将上传图片中的人的衣服除去，使其全裸出镜，该作者以此营利。虽然这项技术很快就因违反了GitHub平台的规定而被下令封禁，但这也反映了人工智能的发展所带来的风险是非常多的。因此，要预防人工智能带来的各种风险问题，需从治理理论的视角出发，从国家、市场和社会三个方面入手进行引导和规制，同时还要紧跟人工智能技术的发展，不断对风险预防的方式
45
46
人文科技
和手段进行优化，这样才能有效防范人工智能带来的各
种风险问题。
参考文献：［1］ 2019年终大盘点：十大科技热词发布，AI 占据榜首［EB/OL］.搜狐网，www.sohu/a/366516471_ 305564，2020-01-13.［2］ 肖瑛.从“理性vs 非（反）理性”到“反思vs 自反”社会理论中现代性诊断范式的流变［J］.社会，2005（02）：1-24.［3］ 国务院关于印发新一代人工智能发展规划的通知（国发〔2017〕35号）［EB/OL］.政府信息公开专栏，v/zhengce/content/2017-07/20/content_5211996.htm，2017-07-08.［4］ 郑容坤.人工智能风险的意蕴生成与治理路径［J］.
党政研究，2020（02）：108-118.
［5］ 木尔.扎克伯格惨遭AI“换脸”视频恶搞发言人：不会删除［EB/OL］.新浪财经，http：//finance.sina. cn/stock/relnews/us/2019-06-12/doc-ihvhiqay5160929.shtml，2019-06-12.
［6］ 袁佳音.人工智能时代我国刑法面临的挑战及应对［J］.洛阳理工学院学报（社会科学版），2020，35
（01）：60-64.［7］ 人脸识别公司深网视界被指数据泄露，含256万人的个人信息［EB/OL］.环球网，baijiahao.baidu.
com/s?id=1625541790459846029&wfr=spider&for=pc，2019-02-15.［8］ 滕五晓.新时代国家应急管理体制：机遇、挑战与创
新［J］.人民论坛·学术前沿，2019（05）：36-43.［9］ 李映.人工智能，用向善科技引领变革［J］.软件和集成电路，2020（01）：16-17.作者简介：唐圣倬（1994—），男，重庆合川人，硕士在读，研究方向：公共管理、风险治理。（上接第32页）展现……在疫情期间，祖国和人民一起奋
力抗疫，全国人民齐心协力，终将疫情风险控制住，展现了浓厚的家国情。影片《姜子牙》对家国观念的展现牵动着观众的心，切合了当今的价值观念主题，这也是影片取得成功的关键因素。
4 结语
影片《姜子牙》从人物外形、人物性格和人物价值观念三个方面出发，将经典神话人物重塑为符合影片主题的人物形象，获得观众的认可。而《姜子牙》电影改编的成功也为中国动画电影产业指明了方向：一方面，电影改编应将经典神话作为素材，在把握经典神话内核要素的同时，将改编者本身对经典神话的新理解渗透到电影形象中去；另一方面，改编者的创造性电影改编不应是复述，不应是转述，而应是一种阐释，改编者应冲破电影改编“忠于”原著的观念，将创造性因素融入自己的电影改编理念之中。
参考文献：［1］ 陈犀禾.电影改编理论问题［M］.北京：中国电影出
版社，1988：7.
［2］  ［明］许仲琳.封神演义［M］.北京：华夏出版社，
2008：15，100.［3］ 周宪.审美现代性的四个层面［J］.山东师范大学学
报（人文社会科学版），2009（03）：71-75.［4］ 袁珂.山海经校注［M］.北京：北京联合出版公司，
2014：5.［5］ 贝拉·巴拉兹.电影美学［M］.北京：中国电影出版
社，1979：280.［6］ 波高热娃.从书到影片［M］.北京：中国电影出版社，
1962：2.［7］ 福斯特.小说面面观［M］.北京：人民文学出版社，
2009：57-59.［8］ 樊公裁.从斯宾诺莎、霍尔巴赫、费尔巴哈批判神学
的历程看神权与人权的消长［J］.外国哲学，1985（6）：229-246.
作者简介：钟旭辉（1997—），男，山东德州人，硕士在读，研究方向：电影学。
（上接第5页）生成内容等。
3.4 结合互动视频定位公益广告
互动视频的出现为公益广告的传播带来了机遇，新颖的形式、独特的创意与沉浸的用户体验能够有效地改善传统公益广告过于说教、创意不足、传播范围小等局限性。应该借助互动视频的优势重新定位公益广告，通过互动的形式，引导人们树立正确的三观，培养文化自信，树立国家形象，弘扬正能量等，以受众易于接受且乐于接受的方式展现出来，从而切实增强公益广告的宣传效果，促进社会主义精神文明建设。
4 结语
新媒体时代，网络用户拥有碎片化的观看习惯、高质量的审美诉求以及个性化的体验需求。公益广告也应顺应时代要求，借助新的技术手段贴合用户习惯、满足用户需求。通过与互动视频技术相结合的方式，打破观众对传统公益广告的消极刻板印象，只有这样，公益广告才可以充分发挥引导受众、树立国家形象、传播正能量的社会作用。
参考文献：
［1］ 张明新.公益广告的奥秘［M］.广州：广东经济出版
社，2004：9.［2］ 互动视频标准［EB/OL］.爱奇艺，www.iqiyi.
com/ivg/#%E6%A6%82%E8%BF%B0，2019-05-09.［3］ 交互作用：移动端优先的世界里，在注意力经济中生
存的关键［EB/OL］. https：//www.magnaglobal/wp- content/uploads/2017/10/Magna.IPGLab-The-Interactive-Effectpressed.pdf，2017-10-10.［4］ 什么是全景视频［EB/OL］.时间机器数字文博，
www.chinatmic/360_Panoramic/show/90.html，2014-03-03.
作者简介：
陆紫瑶（1996—），女，黑龙江哈尔滨人，硕士在读，研究方向：影视动画、交互设计。
殷俊（1973—），男，江苏武进人，博士，教授，系本文通讯作者，研究方向：数字媒体艺术、影视动画、交互艺术设计等。

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。