随着人工智能技术在直播领域的广泛应用，AI主播、AI生成直播内容等新业态快速兴起，为直播行业注入新活力的同时，也带来了虚假信息传播、技术滥用等监管难题。近期，相关监管新规进一步细化，明确将AI主播等人工智能生成内容纳入监管范畴，划定行为红线，明确主体责任，防范技术滥用风险，推动AI直播规范健康发展。
监管新规明确规定，直播间运营者使用人工智能等技术生成的人物图像、视频从事直播电商活动的，应当进行明确标识，并持续向消费者提示该内容由人工智能生成，避免消费者产生误解。这一要求针对性破解了AI主播“以假乱真”的问题，保障了消费者的知情权和选择权，防止AI技术成为传播虚假信息的“挡箭牌”。
同时，新规明确了AI直播违规行为的责任主体，规定在直播电商活动中，使用人工智能生成内容出现违法违规行为的，由管理或者使用该内容的直播间运营者承担相应责任。这一规定厘清了AI直播领域的责任边界，避免了出现违规后“权责不清、推诿扯皮”的现象，倒逼直播间运营者加强AI内容审核，规范AI技术使用。
据悉，当前部分直播间存在滥用AI技术的行为，有的利用AI生成虚假主播形象，模仿公众人物进行直播带货，误导消费者；有的通过AI技术修改商品图像、虚假演示商品功效，开展虚假宣传；还有的利用AI生成低俗、不良内容，扰乱直播生态。这些行为不仅侵害了消费者合法权益，也扰乱了行业秩序，亟需加强监管。
为落实监管要求，各大直播平台已逐步完善AI直播管控机制，建立AI内容识别系统，对AI生成的直播内容进行实时监测，核查是否按规定进行标识、是否存在违规内容。对未按规定标识AI生成内容、滥用AI技术开展违规直播的账号，平台将采取警示、限制流量、暂停直播、关闭账号等处置措施，强化监管效能。
监管部门表示，将持续加强对AI直播领域的监管，密切关注AI技术在直播领域的应用动态，及时排查各类风险隐患，严厉打击滥用AI技术开展虚假宣传、传播不良内容等违规行为。同时，鼓励平台和企业创新AI直播应用，推动AI技术与直播行业深度融合，在合规前提下发挥技术优势，丰富直播内容形式，提升直播服务质量，促进直播行业高质量发展。
