▸ 欧盟开始实施透明度义务,要求科技企业对AI生成内容进行清晰标注出处
欧盟近期开始对科技企业实施透明度义务,要求企业对由其人工智能系统生成、且刻意做得足以以假乱真的图片、视频、音频作出清晰标注。
▸ 欧盟《人工智能法案》第50条于8月2日正式生效出处
《欧盟人工智能法案》第50条于8月2日正式生效,对提供、部署AI系统与AI内容的企业设置多项透明度义务。
▸ 法案要求模仿真实人物、实物、地点等的AI生成内容必须标注为AI生成或篡改出处
义务包含:凡是模仿真实人物、实物、地点、实体或事件的AI生成/篡改图片、音频、视频,必须标注其为AI生成或经过篡改。
▸ 涉及公共利益、未经过人工审核的AI生成文本同样需要标注出处
涉及公共利益、未经过人工审核与编辑把关的AI生成文本,同样需要标注说明。
▸ 欧盟设计专用标识,要求高度写实AI内容必须使用该标识进行标记出处
欧盟设计了一套专用标识,看起来高度写实的AI内容必须使用该标识进行标记。
▸ 企业可选欧盟官方标识,但必须履行内容披露义务未对上原文
▸ AI企业需为自家系统生成内容添加机器可读的隐形水印出处
欧盟新的透明度规则,还要求AI企业为自家系统生成甚至经过系统处理的全部内容,添加机器可读的隐形水印。
▸ 头部AI企业Anthropic表示将遵守法案要求出处
为遵守法案,头部AI企业Anthropic表示:8月2日之后在欧盟上线的所有Claude对话大模型,都会支持机器可读标记;
▸ 法案管辖范围覆盖欧盟境外企业,违规企业最高可处以1,500万欧元罚款未对上原文
▸ 法案不适用于个人非职业、私人用途创作的内容出处
但法案不适用于个人非职业、私人用途创作的内容。
▸ 研究表明,AI标签可能产生适得其反的效果,降低大众对网络内容的思辨意识未对上原文
▸ 人们不能单纯依靠标签分辨AI生成内容,还需提升AI媒介素养出处
人们不能单纯依靠标签分辨AI生成内容,还需要留意各类破绽:人物面部动作、表情、语音、声线出现违和与矛盾之处。