随着人工智能（AI）降低新闻、图像和视频等内容制作门槛，人类创作与AI生成内容之间的界限日益模糊。AI应用已扩展至文章撰写、翻译、语音合成和视频剪辑等领域，如何确认网络内容来源也愈发重要。
韩国广播通信委员会正推动引入“AI生成内容标识制度”，并将其与提高推荐算法透明度列为主要课题。该制度旨在帮助用户识别AI生成或大幅修改的内容，降低虚假及操纵信息带来的风险。
不过，如何界定“AI生成内容”成为制度设计的关键。仅使用AI修改照片背景，与利用AI合成人脸或声音存在明显差异；使用AI润色、翻译或摘要文章，也很难一概认定为AI生成内容。如果标识范围过宽，新闻编辑等正常创作活动也可能受到影响。
放通委相关人士表示，目前相关法案主要考虑针对可能与现实混淆的深度伪造（Deepfake）视频、语音和图像等引入标识制度，对于仅使用AI进行简单编辑或修正的情况，则考虑排除在外。具体标准将在法律修订后进一步明确。
与此同时，仅标注“AI生成”能否有效遏制虚假信息仍存疑问。标明内容由AI生成，并不意味着用户能够判断信息真伪。尤其在优兔（YouTube）、短视频平台和社交媒体（SNS）上，刺激性内容传播速度更快。
为此，放通委还计划提高推荐算法透明度，将监管范围延伸至平台推荐和传播环节。不过，韩国用户接触的大量AI内容来自海外平台，如何对全球平台适用相关规定，也成为制度落地面临的难题。
随着生成式AI快速发展，合成图像、视频和语音越来越难以与真实内容区分。如何在保障用户知情权、维护媒体信任与避免过度监管之间取得平衡，将成为韩国AI生成内容标识制度能否有效落地的关键。
去年12月4日，在首尔江南区COEX The Platz举行的“AI内容庆典”上，参观者正在体验虚拟艺人影像。【图片来源 韩联社】
评论 (0)