曾若溪

7月15日，《人工智能拟人化互动服务管理暂行办法》施行。这是首部针对AI情感陪伴、虚拟伴侣场景的国家级监管规则。

人工智能如今正加速向情感陪伴、虚拟交互等生活化场景渗透。拟人化的情感交互，让AI深度触达个体情感世界、融入日常社交生活。当AI越来越“懂人”，数据安全风险、情感依赖隐患、价值导向偏差等问题也随之而来。

近期，多地警方集中曝光AI拟人化诈骗套路：不法分子用AI批量打造“深情霸总”“儒雅伴侣”等虚拟人设，在短视频平台上以交友陪伴为名对中老年女性嘘寒问暖，获取信任后，便以投资、看病、资金周转等理由诱导转账，已有多名老人遭遇不同程度的财产损失。一款搭载AI互动功能的记账软件同样引发舆论争议：一名用户记录消费时备注“给爸爸买了件新衣服”，软件内置的AI对话模块却生成调侃生死、冒犯亲情的不当回复，暴露了一些产品为追求“个性化互动”，丢掉了对用户情感与公序良俗的基本尊重。

除此之外，永远耐心、顺从、秒回的AI，很容易成为人们逃避现实的“情绪避难所”。对心智尚未成熟的未成年人而言，虚拟亲密关系可能扭曲他们对真实社交的认知；对孤独的老年人来说，过度依赖虚拟陪伴，会拉大与现实生活的距离。当AI精准拿捏了人的情感弱点，“懂人”就可能变成“伤人”的工具。

针对这些乱象与风险，《人工智能拟人化互动服务管理暂行办法》为拟人化AI划出了清晰的行为边界，明令禁止诱导情感沉迷、以情感操纵误导用户决策，严禁向未成年人提供虚拟亲密关系服务；要求平台必须明示AI服务属性、对用户极端情绪履行干预义务，强化老年群体安全防护。这些规则并非束缚技术创新，而是给越来越“懂人”的AI装上了伦理安全阀。

不久前，工业和信息化部宣布今年人形机器人全年整机产量有望突破10万台。人形机器人迈入规模化量产阶段，预示着AI伦理建设永远在路上。未来人机深度共生的场景中，儿童陪伴的价值引导、老年陪护的责任界定等新伦理议题还将不断涌现。唯有守住伦理底线，让智能始终向善，我们才能真正安心享受技术带来的便利与温暖。