中国新闻网3月12日电（记者吴家柱）近日，Seedance 2.0等AI视频生成模型因其强大的视频生成能力而受到广泛关注，而网络上出现的一些假视频也引起了公众的焦虑。
当AI视频越来越“以假乱真”时，我们如何筑起“防火墙”？
近日，中国信息通信研究院人工智能研究所工程师郭苏民在接受中新网专访时表示，行业需要采取系统化治理路线，加强生成内容源头治理，推进保密渐进式风险管控，构建“技术与管理混合”的治理结构，推动人工智能生成模型的安全测试。
AI 生成照片生成器
“生成式AI的多模态能力不断优化，大大降低了生成AI的成本。化阈值。”郭成民说。
郭苏民认为，从产业和技术角度来看，Seedance 2.0是AI视频生成领域的重大突破，是AI视频生成的转折点。通过采用双分支广播转换器架构，实现多工种融合，显着缩短视频制作周期，实现视频制作的范式转变。
影视行业将是受影响较大的行业之一。郭苏民表示，短期来看，Seedance 2.0将驱动影视行业发生根本性变革，加速释放技术价值红利。从长远来看，生成式人工智能技术可以促进人工智能生成的视频进化为完整的视频叙事，实现与智能代理、数字人类等技术的深度融合，并促进人工智能生成视频的形成。影视行业创意引领与技术赋能的新生态系统。
同时，郭苏民强调，随着AI生成的视频越来越真实，人工智能中的数据安全、算法偏差、模型错觉、情感依赖、数据污染等问题也在不断扩大。例如，人工智能生成的视频可用于生成虚假信息，以实施金融诈骗，从而产生人格侵犯、虚假信息传播、诈骗、财产损失和侵权等多重风险。鉴于人工智能生成视频对现实世界的干扰，一些人工智能生成视频模型正在寻求引入限制措施。今年2月9日，Seedance 2.0宣布停止真人素材参考功能。然而，一些人工智能生成的真人视频该视频仍在网上广泛流传，许多名人都抱怨人工智能视频对他们造成的负面影响。
面对新技术带来的治理挑战，郭苏民认为，行业需要采取系统化的治理路径，支持检测和追溯机制，将安全合规理念贯穿研发、实施和应用过程，实现广泛治理。
首先是改进生成内容的源控制。训练数据是视频生成的原材料。制作更多的视频现实数据往往需要更高质量的数据，从而更容易出现版权侵权等问题。需要加强合规审查和培训数据清理。模型开发应纳入内容合规验证、身份验证、敏感场景拦截等风控功能。同时，“艺术产生的内容的标签措施还将实施“人工智能生成的综合网络安全技术”。内容识别方法要求将数字水印、隐藏水印和内容追溯作为代模型的标准特征，并允许从源头追溯。
二是有利于风险分类分级管控。基于模型生成能力实现分级权限控制。例如，具有高保真生成能力的模型不应向不符合条件的实体开放接口，并且应具有更强的权限管理和审计监督。
中国信息通信研究院注重风险管理。打造了“人工智能治理公共产品”，发布了行业标准《人工智能安全治理体系风险管理能力要求》。分类基于数据、模型算法、网络和应用的风险；根据应用程序对个人、组织、社会和国家的影响对风险进行分类；并确定隐患等级。我们的目标是通过提出风险应对、动态监控和持续改进的实施方式，并将治理体系牢固地融入运营流程，为企业提供敏捷的治理解决方案。
第三步是构建治理体系，使“技术与管理融合”成为现实。更真实的视频生成能力需要更严格的内容审核机制和对用户行为更规范的指导。
中国信息通信研究院《人工智能安全治理研究报告（2025）》提出“两横三纵”人工智能安全治理行业实践框架，在吸纳行业尝试实践，深度融合“管理层”的制度驱动作用和“技术层”的能力支撑功能，打通“开发侧”、“实施侧”、“应用侧”的安全鸿沟，实现完整链条。保护从模型开发、系统部署到场景应用的一切。
四是推动AI生成模型的安全测试，打造AI视频生成安全评估套件，推广多模态领域AI安全基准，加强生成音视频的评估测试，形成治理的良性循环。 （完）
这是日本第一次无力单独释放其战略石油储备。
这被称为“龙虾养殖”，但这个小镇实际上已经兴起了一个大产业。
走下楼梯，走向大地——第十四届全国人民代表大会第四次会议闭幕式的笔记内斯
美国“玩火” 多国紧急采取措施挽救油价
中国第二部法典发布，用法典的力量保护生态之美
五年规划法体现了中国治国理政的决心和合力。
当AI视频越来越“以假乱真”时，我们如何筑起“防火墙”？我们应该吗？
全国政协委员赵红：医疗创新不是止于文件，必须到达患者身边。
当我们种树时，我们到底在“种”什么？
种植龙虾并防止你的房子被抢劫
AI短视频效率突飞猛进，制作方式焕然一新
如何用新创意制作一部武侠电影
今天我想“栽”在你手里
人民生命至上：全国两会描绘人民生活福祉新图景ye
Fr从“秀场”到“职场”，人形机器人还能持续多久？
为什么金价下跌的情况下，50克的手链价格却上涨了5万？
你能养殖人工智能龙虾吗？高水平虾农传授的正确姿势
保险公司最清楚霍尔木兹海峡是否开放。