随着AI技术在直播领域的广泛应用，AI数字人直播呈现快速普及态势，与此同时，技术滥用带来的虚假宣传、仿冒欺诈等问题也日益凸显。昨日，相关监管部门进一步强化AI数字人直播监管，严格落实已施行的直播电商相关新规，明确AI数字人直播的标识要求，防范技术滥用，厘清相关主体责任，推动AI直播行业规范健康发展。
此次强化监管的核心要求，聚焦AI数字人直播的规范应用，根据相关新规，使用人工智能生成的人物图像、视频从事直播电商活动的，必须进行显著标识，并向消费者持续提示该内容由人工智能技术生成，管理或使用该AI生成内容的主体，需依法承担相应责任。这一要求直指AI数字人直播存在的两大风险，即AI仿冒名人带来的欺诈危机，以及AI生成内容虚假、夸大导致的消费误导。
监管部门明确表示，强化AI数字人直播监管，并非限制技术创新，而是坚持“鼓励创新、严守底线”的原则，促进人工智能技术在直播电商领域的规范应用，保障消费者的知情权与选择权，防止技术成为虚假宣传、欺诈消费的“挡箭牌”。此前，部分平台出现AI仿冒名人带货、伪造专家背书等违规行为，误导消费者购买商品，此次监管强化将有效遏制此类乱象。
各大直播平台积极响应监管要求，纷纷升级AI数字人直播管理机制，建立AI内容识别与标识体系，对平台内AI数字人直播进行全面排查，确保所有AI生成内容均按规定进行显著标识，对未落实标识要求的直播账号，采取警告、限流、暂停直播等管控措施。同时，平台加强对AI数字人直播内容的审核，严防AI生成虚假、低俗、违规内容，切实规范直播行为。
业内专家表示，AI数字人直播作为直播行业的新兴业态，具有广阔的发展前景，但技术滥用会破坏行业生态、损害消费者权益。此次监管强化与新规落实，为AI数字人直播划定了清晰的合规红线，有助于规范行业秩序，推动技术创新与合规经营双向发展，让AI技术真正成为直播行业高质量发展的助力。
相关部门表示，将持续加强对AI数字人直播的常态化监管，密切关注技术发展带来的新问题、新挑战，不断完善监管措施，推动建立“平台负责、政府监管、社会监督”的多元治理格局，确保AI数字人直播行业健康有序发展，切实守护消费者合法权益。
