算法可以计算流量，但不能算计人心；技术可以模拟情感，但无法替代真实的关爱。阻断AI幻象渗透和蔓延的链条，守护好每个人的数字安全与情感尊严，这是应对“数字情感收割”的基本原则，也是技术向善的题中应有之义。
短视频平台上，身着正装、开着豪车、戴着金表的“儒雅霸总”，张口“姐姐”、闭口“想你”，嘘寒问暖甚至下跪求婚……据4月13日新华社报道，这些“AI霸总”或是AI数字人，或是经AI换脸、拟声伪造的形象，话术直白，戳中不少老年粉丝的心意。即便视频下方标注着“内容由AI生成”，一些老年粉丝依旧深信不疑。记者搜索关键词发现，仅平台推送来的“AI霸总”账号就达上百个，数个账号粉丝达到十几万。
嘴上都是“情意”，心里全是生意——“AI霸总”类账号打着“高端人设”的幌子与老年人进行情感交流，为的是最大限度积累流量，后续通过多种方式变现，包括赚取平台流量收益，开展带货、打赏或私域营销活动，为婚恋、医疗、养老等其他商业机构引流赚取佣金等。从AI数字人制作、文案批量生成，到引流、互动、转化，每一环都在算计如何从老人的情感需求中榨取价值。
“AI霸总”围猎老年人，本质上是对人性弱点的精准攻击。一方面，时下，独居、空巢是不少银发群体的常态，“霸总”人设中的“霸道宠溺”“专一深情”，填补了一些老年人的情感空白。另一方面，银发群体中的不少人对AI技术的认知有限，难以理解“眼见未必为实”的道理。此外，技术手段大幅降低了“AI换脸”“拟声合成”的成本，加之平台算法持续为老年用户推送同类高浓度内容，从而令一些银发族陷入“情感空虚—邂逅霸总—寻求互动—被精准收割”的窘境。
“AI霸总”让一些老年人“上头”的同时，也为其带来多重风险。在财产安全层面，从直播间带货、付费解锁“专属陪伴”，到诱导转账、投资“高回报项目”，老年人的养老钱可能被一步步掏空。在身心健康层面，过度沉迷虚拟互动，会加剧老年人现实中的孤独感。在个人信息安全方面，老年人个人隐私信息可能被获取，成为进一步精准收割的“原料”。
曾经，我们担心老年人被“干儿子、干女儿”们诱骗买保健品；后来，一些老年人落入了短视频平台上的假明星骗局；再后来，“AI+”对银发群体的诱骗成为了一套可批量复制的收割模型。这一过程中，围猎手段从“人工话术”升级到“AI量产”，从“一对一突破”进化到“即使千人千面也能精准营销”……AI技术的迭代速度超过了治理的反应速度。对此，相关部门已经出台规定对AI生成内容进行强制标注，但这显然远远不够。在AI技术快速发展的时代，相关治理需要多些未雨绸缪。
一方面，平台方不能只为技术做“嫁衣”，还应承担起内容审核的伦理责任；技术开发者在追求模型迭代的同时，也应主动嵌入伦理设计；监管部门则需依法严厉打击利用AI实施的情感诈骗、虚假宣传等行为，落实“谁使用、谁负责”的主体责任，让“AI不是免责金牌”成为共识和铁律。
另一方面，无论是家庭还是社会，需要进一步看见那些被忽视的情感需求与渴望。“AI霸总”视频的评论区里，有粉丝说“就算你是假的，我也愿意信一回。”可见，浇灭一系列AI幻象与相关人群之间的“火花”，有必要以更可行、更智慧的方式满足相关群体的情感需求，这需要各方伸出温暖的手，拉相关群体走出“情感孤岛”。
算法可以计算流量，但不能算计人心；技术可以模拟情感，但无法替代真实的关爱。阻断AI幻象渗透和蔓延的链条，守护好每个人的数字安全与情感尊严，这是应对“数字情感收割”的基本原则，也是技术向善的题中应有之义。
更多热点速报、权威资讯、深度分析尽在北京日报App
七星策略提示：文章来自网络，不代表本站观点。
