(资料图)

5月7日消息，参照《互联网信息服务深度合成管理规定》等法律法规，抖音提出十一条平台规范与行业倡议。其中提到，创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景；发布者需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的；虚拟人需在平台进行注册，虚拟人技术使用者需实名认证；禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。一经发现，平台将严格处罚。

在海外，苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）最近警告说，人工智能（AI）可能使诈骗和错误信息更难发现。他担心这项技术会被“坏人”所利用。

技术本身并无原罪，就看如何使用及其目的。AI绘画作品、换脸视频等工具，从积极角度看，这类技术让生活更有趣，让制作或创作更加高效、逼真。但有些时候，深度合成工具也成为诈骗、侵权、违法等违法犯罪活动的“帮凶”。

在短视频及短视频分享潮流的兴起下，在国家持续加强互联网监管的背景下，上述规范与行业倡议的可以说是互联网内容领域亟需的，有助于防范深度伪造和ChatGPT等人工智能技术各种潜在风险。去年年底由国家互联网信息办公室、工业和信息化部、公安部联合发布并在今年初（在ChatGPT大热之前）生效的《互联网信息服务深度合成管理规定》要求：“深度合成服务提供者对使用其服务生成或编辑的信息内容，应当添加不影响使用的标识”。该规定还明确，深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。而根据微信公号“甘肃公安”5月7日消息，近日平凉市公安局网安大队就侦破一起利用AI人工智能技术炮制虚假不实信息的案件。

而更早之前的2019年，国家互联网信息办公室等三部门就颁发了《网络音视频信息服务管理规定》，针对网络视频的“深度伪造”进行适时管控，要求网络音视频信息服务提供者和网络音视频信息服务使用者“利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识”，“不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息”（参考《畅语快评|ChatGPT变脸,中移动“算联网》）。

今年一季度，全国网信系统还进一步加大网络执法力度，持续推进“清朗”系列专项行动，坚决依法查处网上各类违法违规行为，累计约谈网站2203家，暂停功能或更新网站48家，下架应用程序55款，关停小程序12款，会同电信主管部门取消违法网站许可或备案、关闭违法网站4208家。在今年ChatGPT大热之际，4月12日国家互联网信息办公室还起草了《生成式人工智能服务管理办法（征求意见稿）》。更不用说，5月8日国家网信办已经派出工作组进驻斗鱼平台以治理相关的色情、低俗等严重生态问题。这些都表明：互联网信息治理是当下重点之一。

而作为短视频行业龙头的抖音，在取得行业地位而乱象渐起之时，按照国家监管需求不断加强平台自治、加强平台内容管理规范也是理所当然的。因为其举措已经部分代表了短视频乃至互联网内容平台的治理态度。例如此前2023年2月，抖音就在“治理诈骗开放日”上就发布智能交互反诈产品“抖音小安”。

预计未来在互联网UGC领域，深度合成与AIGC应用管理业将更为规范，为大众筑起数字时代的安全防护栏。

责任编辑：李楠