首页
如今，AI拟人化互动服务，正在展示出堪比人类的情境理解与共情表达能力。人与机器的边界，随之变得模糊了。
善于模仿人的情感和意图，随叫随到地扮演知己的角色，让人恍然觉得“AI搭子”怎么比真朋友还懂……有人担心，“拟人AI”的类人化倾向已经使其超出了工具范畴。以AI玩具来说，孩子在人机交互对话中产生奇思妙想，家长能从中更深入地了解孩子。它不是功能型的普通信息工具，而是在提供一种关系型、对话型的服务。然而，高度的拟人化可能引起情感依赖，也会产生认知混淆风险。譬如，让人分不清虚拟与现实，误把AI当作生命体，进而诱发沉迷风险。
人与人交往，保持边界感是一条基本的原则。这既包括物理的边界，也包括心理的、情感的边界。没有边界感的人，容易被他人的需求、意见所左右，进而产生精神内耗。一个人如果长时间缺乏边界感，就会因无法真实看见自我、表达自我而感到压抑、焦虑。人和AI交往，其实也是一样。适度的边界，本质上是让人与机器的关系保持平衡。
在人工智能时代，人机边界对维系“人之为人”至关重要。试想一下，一个边界不清的智能世界貌似开放包容，实则会使人失去自我掌控感。更严重的是，AI肆意地越界，不仅会侵入人的心理与情感空间，还会侵蚀人的责任感和秩序感，甚至使人沦为机器的附庸。这可不是危言耸听。2024年，美国佛罗里达州的一位14岁少年因AI依恋而开枪自杀身亡。极端个案提醒我们，技术的发展不能以牺牲人的尊严、自主性和心理健康为代价。要反思技术媒介的伦理责任，并深思“人何以为人”这一问题。
7月15日，国家网信办、国家发展改革委、工业和信息化部等五部门联合公布的《人工智能拟人化互动服务管理暂行办法》施行。从确立“身份提醒”机制、建立防沉迷与心理保护体系到强化数据安全与隐私保护，新规为“拟人AI”系统性立规矩、划底线，将促使技术发展以人为本、智能向善。期待“拟人AI”在规范中成长，更好赋能美好生活。
放大
上一版
