”“这是AI技术的新型运用，科技就应该用在温暖的地方但有不少网民表示担忧，“将这种技术变成一门生意，会不会引发一些道德和伦理问题？”有网民直接发问“会不会被滥用，制造虚假信息误导大家，甚至用于诈骗？”记者注意到，在电商平台提供此类服务的商家不少都标明了不做人脸识别，只做去世怀念在沟通中，商家客服也多次强调，没有办法克隆或者模拟声音，人脸识别请绕道警惕：有人利用AI造谣被处罚随着科技的不断发展， 近年来，AI人工智能技术的应用已十分普遍，但相关的争议也一直不断，有不法分子动起了歪脑筋，AI换脸诈骗、利用AI造谣等案例也出现在公众视野3月11日下午，安徽警方发布打击整治网络谣言和网络暴力专项行动典型案例其中一起案例中，网民杨某在某平台发布战斗机飞行视频并宣称要打仗了经核实，杨某为博取关注，在某平台发布使用AI技术制作战斗机飞行视频，并配发“即将打仗”的谣言信息目前，六安警方已依法对杨某予以行政处罚据央视3月份报道，在香港警方披露的一起多人“AI换脸”诈骗案中，一家跨国公司香港分部的职员受邀参加总部首席财务官发起的“多人视频会议”经查，所谓的视频会议中只有受害人一个人是“真人”，其他“参会人员”都是经过“AI换脸”后的诈骗人员，涉案金额高达2亿港元北京市朝阳区人民法院法官提示，利用AI技术实施诈骗的套路，主要有定向诈骗、声音合成诈骗和换脸诈骗那么，如何判断对面是真人还是“AI”人，中国科技大学网络空间安全学院执行院长俞能海此前提醒，可以让对方摁鼻子、摁脸，通过观察其面部变化来判断对方身份的真实性分析：服务背后存在信息安全等隐患北京天驰君泰（合肥）律师事务所张慧律师分析认为，这种服务背后存在不少安全隐患，一方面是信息安全，其表示，要创造逝者的AI虚拟数字人形象,首先需要获取到逝者本人的肖像、声音、姓名、聊天文本等各种敏感信息与数据，这些个人信息都关涉个体的核心隐私权利和自主性，很容易在创设虚拟数字人的过程中产生隐私暴露风险，侵犯逝者的人格尊严同时，应考虑到数据安全，“平台收集消费者隐私数据后保护措施是否充分，是否会对消费者提供的数据进行存储和使用，其数据库可能存在数据被黑客攻击或非法获取的风险”其认为，这些技术可能被不法分子盗取滥用，甚至用于网络犯罪，造成社会公益、个人合法权利的损害另一方面，使用AI虚拟数据技术“复活”已故亲人，可能引发道德和伦理上的争议，“如对死者的尊重、对生者情感的影响等，这种服务可能会给逝者亲人留下的情感和记忆带来混淆和困惑 ”建议：依法依规进行监管须提上日程面对门槛越来越低、技术愈发成熟的AI虚拟数据人技术，北京天驰君泰（合肥）律师事务所江启航律师也表示，对其依法依规进行监管须提上日程“虽然这类使用AI虚拟数据技术‘复活’已故亲人的服务在一定程度上满足了人们的情感需求，但在实际应用中需要关注其合法性、伦理性及安全隐患，并采取相应的措施来保障用户的权益和安全，应当认识到该项新服务的局限性和潜在的社会风险，不能放任其滥用”其认为，此类服务应当重点关注逝者的人格权保护，确保不侵害逝者及其家属的合法权益“相关部门应对这类服务及市场主体进行监管，制定相关法规和准则，明确使用者提供个人信息的权限和限制，确保其合规合法经营”同时，其认为该类服务的供应商应提供合理清晰的用户协议，电商平台和服务提供者应采取有效措施保护用户数据安全，防止信息泄露和滥用，确保数据合法合规使用“作为用户，在选择使用这种服务时，应理性对待，权衡利弊，避免沉溺于虚拟的亲人之中，影响正常的生活和社交”大皖新闻记者 赵琳编辑 张思平
（图片来自网络侵删）
