4月30日，第八届数字中国建设峰会新一代人工智能研发与应用法治分论坛在福州举办。计算机与网络空间安全学院院长林卫国教授受邀出席论坛，并围绕“全球人工智能与数据治理及合作”议题作主旨发言。
本次论坛由中国人民大学主办，中国人民大学法学院、吉林大学法学院、京东集团共同承办，以“促进科技创新 发展数字经济——新一代人工智能研发与应用的法治建设”为核心主题。来自政府部门、高等院校、科研机构的权威学者以及科技企业领军人物齐聚一堂，共同围绕“新一代人工智能治理范式、理论与实践”“全球人工智能与数据治理及合作”等议题展开多维度研讨，并通过“人工智能应用及法治前瞻”圆桌对话环节，共商新一代人工智能的治理机制，为推动数字经济高质量发展贡献智慧力量。
林卫国院长以《生成式人工智能AIGC技术演进与治理》为题进行发言。他指出，近年来生成式人工智能技术发展迅猛，多模态大模型逐渐成为产业标配。尤其在医疗、教育、文娱等领域，行业专属模型结合专业数据与提示词库，显著提升了模型的可靠性和专业性，为产业升级注入强大动力。但技术发展也带来诸多问题：深度伪造技术的泛滥，使得虚假信息传播风险增加；数据安全与隐私保护面临巨大挑战，敏感数据存在泄露风险，数据污染与滥用现象时有发生；算法偏见问题也引发了公平性质疑，模型“幻觉”问题在专业领域可能导致严重后果。此外，人工智能生成内容的版权归属问题也成为行业焦点，不同国家和地区对此的界定标准尚存在差异。从全球政策对比来看，各国在人工智能治理方面各有侧重。中国采取强监管导向，注重安全可控，例如《人工智能生成合成内容标识办法》要求对 AIGC 内容全链条可追溯，确保信息真实可靠，防范虚假信息传播和知识产权侵权。美国在创新与风险之间寻求平衡，通过灵活框架支持技术发展，采取分领域、分层级的监管措施，在鼓励创新的同时注重风险防范和伦理规范。欧盟则以立法先行著称，其《人工智能法案》将深度伪造纳入高风险范畴，并实施分级监管，全面涵盖了人工智能系统的各个方面，体现出综合治理的特点。
展望未来，林卫国院长认为，生成式人工智能的技术演进将聚焦于多模态交互升级，文本、图像、视频等多形式内容将进一步深度融合，实现“一键生成”全流程创作能力，大幅降低内容生产的门槛，为创作者提供更高效便捷的工具。同时，数字水印、区块链等技术的普及有望解决深度伪造鉴别难题，增强内容的真实性和可信度，保障信息安全。在应用场景拓展方面，AI导演、虚拟数字人等技术将推动文娱产业迈向新高度，创造出更丰富多样的文化产品。而 AI 辅助教育和医疗的应用则有助于实现普惠化目标，让优质教育和医疗资源惠及更多人群。面对人工智能发展带来的潜在风险，需要政府、企业和公众协同治理。各方应共同构建“技术+法律+伦理”三位一体的综合防线，政府完善法律法规，加强监管力度；企业强化技术创新，履行社会责任；公众提升风险意识，积极参与监督。只有这样，才能确保人工智能技术在促进社会进步的同时，有效防范其可能带来的负面影响，实现人工智能产业的健康、可持续发展。
