省政协委员、西安国家版本馆副馆长 何瑛

中共二十届三中全会《决定》提出，加强网络安全体制建设，建立人工智能安全监管制度。近年来，各类人工智能技术已经成为各行各业的利器，为经济社会发展带来了巨大效益。而在互联网平台的聚合放大效应下，各类人工智能技术的应用也带来了一系列风险与挑战：

生成和传播虚假信息。目前，人工智能能够实现机器人自动写稿，虚拟主播技术则提高了信息传播效率。然而，若使用不当，人工智能技术可能导致大量虚假信息快速传播，进而误导公众、降低信息可信度，甚至破坏传播秩序、扰乱公共秩序。网络电诈手段再升级。当前，人工智能技术的“声音复制”和“换脸”等功能被犯罪分子非法用于人脸识别、身份识别等领域，为欺诈等犯罪行为提供便利。严重危害公共网络安全。人工智能技术既可以成为网络安全工程师的好帮手，用来寻找潜在的安全威胁和修复漏洞，也会被黑客用来发动更大规模、更复杂的网络攻击。为此，建议：

完善人工智能领域政策法规及监管体系。建议我省网信部门加强人工智能数据和算法行业监管体系建设，出台人工智能技术滥用与欺诈的相关处罚规则，进一步制定人工智能伦理道德和价值引导政策，制定将道德标准和伦理规则嵌入人工智能底层算法技术等一系列解决方案。

构建人工智能技术标准和应用规则。建议我省工信部门在模型、算法、数据和应用等方面制定相关标准和规范。特别是在人工智能算法的公平性、验证、推荐、决策和评估、结果分析及样本选择等方面，加大力度制定技术安全、管理、平台运行、安全评价和数据质量等方面的标准。

强化人工智能技术全过程监管。建议我省网络信息部门尽快完善开发者承诺备案制度，并将这些信息公开在网络平台，确保开发者担起法律责任。新推出的应用必须清晰设置投诉功能，以便及时处理有关数据滥用、隐私侵犯等问题报告，并将其通知网信部门。网络平台需要在应用推出时重新确认其备案承诺，并签订责任协议，建立健全用户注册、算法机制机理审核、数据安全个人信息保护、反电信网络诈骗、应急处置等管理制度，保证用户反馈被及时处理并报告。