随着AI数字人直播在行业内快速普及，相关监管规则进一步细化落地，明确要求使用人工智能生成的人物图像、视频从事直播电商活动的，必须进行显著标识，并持续向消费者提示该内容由人工智能技术生成，管理或使用该AI生成内容的主体需依法承担相应责任，切实防范技术滥用风险，成为昨日直播监管领域的重要举措。
此次监管细化，核心是解决AI数字人直播带来的两大突出风险：一是AI仿冒公众人物、专家进行虚假宣传，误导消费者决策；二是AI生成内容存在虚假、夸大信息，破坏市场诚信环境。监管部门明确表示，细化AI数字人直播监管，并非限制技术创新，而是坚持“鼓励创新、严守底线”的原则，促进AI技术在直播领域的规范应用。
根据相关监管办法，AI数字人直播的标识需清晰、显著，确保消费者能够明确区分AI生成内容与真人直播内容，不得刻意隐瞒AI身份误导消费。此前，部分平台出现AI仿冒名人带货、伪造专家背书等违规行为，不仅损害消费者权益，也破坏了行业生态，此次监管细化将有效遏制此类乱象。
各大直播平台积极响应监管要求，纷纷升级AI数字人直播管理机制，建立AI内容识别与标识体系，对平台内AI数字人直播进行全面排查，对未落实标识要求的直播账号，采取警告、限流、暂停直播等管控措施。同时，平台加强对AI数字人直播内容的审核，严防AI生成低俗、虚假、违规内容，切实规范直播行为。
业内专家表示，AI数字人直播作为直播行业的新兴业态，具有广阔的发展前景，能够有效降低直播运营成本、突破时间空间限制。但技术滥用会带来诸多风险，此次监管细化为AI数字人直播划定了清晰的合规红线，有助于规范行业秩序，推动技术创新与合规经营双向发展。
相关部门表示，将持续关注AI技术在直播领域的应用动态，及时排查新出现的监管难题，不断完善监管措施，推动建立多元共治体系，确保AI数字人直播行业健康有序发展，切实守护消费者合法权益，助力直播行业高质量发展。
