界面新闻记者 |
界面新闻编辑 | 文姝琪
AI标识新规实施半个多月，一些变化正在发生。
在抖音、微博、小红书等内容社区平台，由AI生成的图片和视频会被各平台明确标注内容由AI生成。同时，包括视觉中国在内的视觉内容交易平台，AIGC内容也进行了明确标注。
但根据界面新闻观察，一些内容社区平台对AIGC内容的识别还不够准确，部分AI生成的图片并未被标注。
根据新规，AIGC内容需包括显式标识或者隐式标识。显式标识是能够被用户明确感知到的标识，目前各个AIGC产品普遍采用的方式是在图片或者视频中加水印。隐式标识是在合成内容文件数据中添加的、不容易被用户感知到的标识。在实际应用场景中，很多用户为了内容作品的美观，并不愿意加显式标识。
一家大模型公司的技术人员向界面新闻透露，目前AIGC的隐式标识还防不住“有意无意”的破坏，这是当下最大的技术瓶颈。“一种可能的情况是隐式标识被故意篡改或者删除；另一种情况是，在不断的传播中，相关内容的隐式标识丢失。”
而某平台内容治理团队的负责人则表示，在AIGC带来的虚假信息中，除了图片和视频还有大量文字类内容，而文字类AIGC还无法通过显式标识或者隐式标识进行识别。
今年以来，AI生成的虚假信息频繁搅动舆论场，也让越来越多人开始关注AIGC给内容传播生态带来的影响。实际上，随着AIGC被广泛应用，各种版权、人格权相关的纠纷也在最近两年出现爆发式增长。
这些乱象都在倒逼更多行业规范的出台。视觉中国CEO柴继军对界面新闻表示，随着监管方与行业参与者不断细化和优化实践中发现的问题，乱象治理就会出现积极的变化。
隐式标识还需要统一规范
商汤科技副总裁、总法律顾问张望在接受界面新闻采访时详细解释了显式标识或者隐式标识背后的技术原理。他表示，这两种标识本质上都是“后写入”的信息，但在技术上又有所不同。
具体来说，显式标识的技术原理相对直接，属于后处理技术，只需要在相应的图片、视频中标识“AI生成/合成”，且文字高度不低于画面最短边长的5%；隐式标识的技术原理更为复杂，属于信息嵌入技术。以JPG格式的图片为例，商汤旗下的AIGC服务平台基于EXIF规范将字符串填入图片元数据字段，其中包括了AIGC合成属性信息、生成和成服务提供者要素、内容传播服务提供者要素等多个信息。
张望表示，《办法》生效的时间较短，各传播平台、内容生产平台对隐式标识的互认还需要一定时间的磨合，目前可能会存在一些隐式标识无法互认的挑战。
对于AIGC内容的隐式标识，全球范围内还没有一个被普遍采纳的统一技术标准。目前，现有的隐式标识技术流派包括基于改变像素/频域、基于生成过程的“胎记”、修改元数据等，我国采用的是元数据技术流派。
柴继军对界面新闻表示，尽管没有统一标准，但全球的趋势是一致的，那就是必须对AIGC内容进行标识。中国的AIGC内容标识标准是由国家法规自上而下推动的，这势必会带来落地速度快的优点。
他也表示，目前境内外内容生产平台隐式标识的技术标准不统一，也给平台识别AIGC内容带来一些挑战。“如果建立一个全球通用水印系统同样会面临诸多挑战，比如其检测算法是公开的还是私有的，这本身就是个两难的选择。”
而对于目前隐式标识信息容易丢失或者被篡改的情况，柴继军也表示，在AIGC服务中加入强大、可靠的水印功能，需要付出实实在在的成本，这也是当下面临的一个比较大的挑战。
虽然识别隐式标识还有诸多挑战，目前各个平台的态度都是在自己能够把控的环节，尽可能把规范执行好，规避乱象的发生。比如，微博、抖音等内容传播平台都在提升用技术手段识别AIGC内容的能力，并通过运营手段最大限度降低AIGC虚假内容的传播范围。
柴继军透露，视觉中国不收录新闻报道题材的AIGC作品，而针对设计、创意类的题材，视觉中国接受AIGC作品，并对涉及肖像权物权的进行了规范。同时，以编辑运营人员布置明确选题征稿为主，能够最大限度规避AIGC内容不合规等问题。
AIGC商用需求增长，合规问题也不容忽视
AIGC大幅降低了内容生产的门槛，不仅仅是越来越多普通用户开始使用AIGC用于内容分享和娱乐，还有一些品牌和电商商家开始把AIGC用于广告、营销，但争议也随之而来。
去年8月，小米为折叠屏新机做预热时，在官方微博放出一张女模特的时尚海报，但女模特的手指缺关节、锁骨呈锯齿状，被眼尖的网友发现是Midjourney生成，引发很多争议，这条微博的评论区也不乏“塑料人”“恐怖谷”等评论。
去年9月，触宝AI运营主体杭州水母智能科技有限公司因允许用户上传图片并生成与奥特曼形象相似的作品，被上海新创华文化发展有限公司起诉侵犯其信息网络传播权，后者拥有奥特曼系列作品著作权人将相关权利独占授权。法院最终判定，尽管用户上传素材，平台未采取有效措施预防侵权，构成帮助侵权，判令被告停止侵权并赔偿原告3万元。
不管是在国内还是全球范围内，类似的争议都屡次发生。柴继军告诉界面新闻，AI是未来十年内容产业的核心驱动力，产业链的从业者都会全力投入。但从业者也需要意识到，AI技术伴生的版权、伦理和虚假信息等问题，在商用过程中必须要进最大可能规避潜在的合规风险。
界面新闻统计了最近两年时间内国内外因为AIGC商用发生的争议和纠纷案件，主要涉及数据合规、信息披露等多个方面。其中，国内外的人工智能公司都发生过大模型训练数据未经内容平台授权的纠纷，还有一些大模型公司训练过程中，使用了摄影师的原创作品或者知名原创动漫形象，导致生成的图片中出现了原创作品的内容。
在信息披露上，争议和纠纷的其中一种情况来自广告、营销素材使用了AIGC，但品牌方并标识也未如实告知用户，引发的信任危机；另一种情况是由数据授权链条不清晰导致，尤其是商用AIGC内容涉及到人物肖像时，品牌方必须以获得该人物明确且充分的肖像权授权。
上海大邦律师事务所高级合伙人、知识产权律师游云庭告诉界面新闻，目前，国内针对AIGC训练数据引发的著作权的纠纷，相关的法律规范还不清晰，司法实践中也没有判例。在人身权上的纠纷上，《民法典》关于肖像、声音的合理使用都有比较明确的规范。在漫画相关的著作权侵权纠纷上，《著作权法》有比较明确的规范。
柴继军表示，视觉中国对涉及真人肖像的AI视觉内容持谨慎态度，在内容交易平台场景下，审核机制明确禁止签约供稿人上传具有可识别的真实人物肖像的AI视觉内容；在内容定制化的场景下，视觉中国会采用有肖像权授权的数据来生成AI视觉内容，帮助客户避免侵权风险。
他同时建议企业和品牌方，借助AI工具生成与使用视觉内容时，应当选择符合溯源要求的合规平台，确保内容来源清晰可授权。同时，企业应注重区分使用场景，避免使用可能引发消费者误解或不适的AI生成内容。
还没有评论，来说两句吧...