【企业关注】技术的发展历来就是双刃剑。。。。
 　　特别是在算力、
、、
、算法、、
、数据三要素大幅提升的前提下
，，，生成式人工智能逐步迈进3.0时代，，在文化、、、教育、、、、娱乐
、、
、、媒体、、
、、设计、、、科研
、、、、广告等多个业务场景产生深远的影响。。
。
。
 　　与此同时，，生成式人工智能带来的技术滥用
、、、
、虚假信息传播、
、、、个人信息权益被侵害、、、数据泄露或偏见歧视等安全问题也越来越凸显。。
 　　特别是，，不久前，，，，3·15曝光的“AI换脸”诈骗成为关注的焦点，，，
，技术的发展和普及模糊了真实和虚拟的界限，
，也滋生了不少破坏AI安全性和伦理性的因素。。。
。
 　　在虚与实、、、真与伪之间，，，AI技术将走向何方
？
？
？
 　　技术成熟
 　　追本溯源
，
，，
，生成式人工智能技术的不断进步，，，也意味着深度伪造相关技术也越来越成熟。
。
 　　据了解，，，
，深度伪造技术被称作“生成式对抗网络”(GAN)的机器学习模型将图片或视频合成并叠加到源图片或视频。。
。
。
 　　近年来，，由于深度伪造开源技术的开源流通与国内外各大应用程序的发行，，，深度伪造的技术门槛越来越低，，，，也使得AI换脸、、、拟声等技术广泛应用。
。。。
 　　与此同时，，，，深度伪造制作的原材料是个人音频、、图片、、、视频，
，，，这些数据越多，，训练出的视频也就越逼真、、越难以鉴别。。。
 　　辨别真伪
 　　此前，，
，，央视 315 晚会在其保留项目“信息安全实验室”中，
，
，穿插了一段对“AI诈骗”的科普
，，通过3个真实案件详细揭示了AI换脸、
、、
、AI换声诈骗的手法，，引发了广泛关注。
。。
 　　而据长期关注AI安全的瑞莱智慧的不完全统计，，
，，AI诈骗案件数量在近年来快速增长，，，，仅2023年一年在全国已发生至少16起
。。
 　　众所周知
，，AI发展的三驾马车“算法、、、算力
、、、数据”
，，，数据尤为重要，，其安全性则是重中之重。
。。
 　　随着人工智能技术的广泛应用，，，，诈骗的精准性、、迷惑性和隐蔽性都在增加。。这为公安、、
、、检察等执法机关在侦查
、
、收集电子证据以及认定和处理案件方面带来了新的挑战和困难。。。
 　　由于深度合成内容越发逼真
，，，，采用技术手段进行鉴别的解决方案也随之出现
。。。。据业内人士介绍，，，常用的方法包括基于伪造内容数据集完成对模型检测器的训练、、、基于帧间不一致性实现对伪造内容的判别等。
。
 　　因而，，深度伪造技术越来越成熟的同时，，，也需要不断加强反深度伪造技术的迭代更新
，
，更需要监管层面的不断约束
，，助力更安全可信的AI技术环境的发展。
。。。
 　　技术监管
 　　在AI技术赋能千行百业的同时，
，暴露的个人隐私安全、、、、信息安全等层出不穷
。。
 　　为此，
，监管层面也陆续推出了不少应对策略。
。。。
 　　2023年7月，，，国家网信办联合国家发展改革委、、教育部、、、科技部、
、、
、工业和信息化部、、公安部、、广电总局发布《生成式人工智能服务管理暂行办法》中指出，
，服务提供者应当对图片、、、视频等生成内容进行标识。。
 　　目前
，，，如抖音
、
、、B站等视频平台都已上线了相关提示功能，，在有AI参与制作的视频内容下都出现了“疑似AI生成”的提示。。。。
 　　2024年2月，，
，全国网络安全标准化技术委员会发布了技术文件TC260-003《生成式人工智能服务安全基本要求》，，
，提出了服务提供者需遵循的安全基本要求，
，，包括语料安全、、模型安全、、安全措施
、、
、、安全评估等，，，，并给出了适用范围。。。
 　　总体而言，，《基本要求》的发布将有助于建立更安全
、、透明和有序的生成式人工智能服务生态系统。。。
 　　结语：
 　　不久前，
，看到一个消息，，AI还原朝元图百年前的色彩，，，，不仅还原了八百年前的数据真相，，也修复了朝元图近千年来所遭遇的变色、
、褪色、、、、破损、、
、、裂纹
、、、、污染等。。
 　　在古法修复壁画的技艺面临后继无人的窘境之下，，AI 技术可以短时间内完成任务，，
，体现了科技对文化遗产的守护和传承。。
 　　综上来看
，，AI技术的双刃剑效应凸显，
，，，在助力于文化、、、
、教育、、、科研等领域的深度赋能之外，，，也滋生了不少罪恶的温床。。
 　　总结来说，，，AI换脸技术在为我们带来便利的同时，，也引发了一系列伦理问题。
。。
。为了确保技术的健康发展，，需要加大监管力度，
，
，对AI技术的研发和应用进行严格的审查和监督，，，，确保技术的健康发展
。。同时
，，可以研发更加先进的AI识别技术，
，，对生成的虚假信息进行实时检测和过滤等等。
。。。