近日，江苏省泰州市的王女士遭遇新型AI诈骗。诈骗分子先利用虚拟号码伪装成其女儿的电话与王女士取得联系，随后又用AI合成的方式模拟她女儿的声音实施诈骗。在民警的及时帮助下，王女士最终停止了转账行为，躲过了这次精心设计的AI诈骗。由此可见，AI诈骗如今已经发展到真假难辨的程度，即使网警不断加强反诈监控，依旧有人会上当受骗。对此，深信服专家表示，如今的AI技术可以通过深度学习算法，从大量数据中提取特征，并生成逼真的图像和语音。不法分子现在正广泛使用这一技术，给人民群众的资产安全造成了严重的威胁。
值得注意的是，相比传统的电信诈骗，AI诈骗更加隐蔽和逼真，骗子通过AI技术分析公众发布在网上的各类信息，快速地筛选出目标人群，再利用AI换脸和拟声技术，与受害人进行视频通话，让受害人无法辨别真伪。由于AI换脸和拟声技术生成的内容很难被检测和辨认，受害人往往在事后才发现被骗，并且难以找到证据和线索。
面对AI对网络安全提出的新挑战，国内头部网络安全技术供应商如深信服、360等已采取行动，深入布局生成式人工智能模型安全的各个方面。
对个人来说，面对日益猖獗的AI诈骗，应该增强自身安全意识和防范能力，避免成为AI诈骗的受害者。这里为大家提供几个小技巧防范、识别AI诈骗：
1、注意互联网上个人隐私保护，特别是涉及需面部识别、声音录制的信息收集需求，要格外注意识别。
2、保持充分警惕，当遭遇对方提出互联网交易的时候，建议可以进行多重身份的交叉验证，如通过语音、视频已经无法确认其身份，可以通过询问双方共同知晓的信息来辨别，特别是一些小事，例如，双方近期一次吃饭的时间、餐厅等，这些信息无法通过AI伪造。
3、真假信息掺半，可以在聊天中适当地掺一些明显虚假的信息，看对方是否怀疑或者指出错误：比如询问一位对方虚构好友的近况，或者虚构两人共同的经历等;如果对方顺着你提供的假信息去说，那么对方很有可能是AI诈骗。
4、视频可以让对方多做鬼脸，因为AI换脸在面部表情变化迅速、挤眉弄眼的时候，可能会出现失效、失真的情况。
5、不贪图小利或同情心。不要轻信熟人给你介绍的投资理财项目、中奖信息、紧急救助等，并要求你转账汇款。如果有疑问或感觉异常，要及时报警求助;
如不慎被诈骗，应及时报警，配合相关部门的监控追踪，还有希望挽回损失。
今年，国家网信办起草了《生成式人工智能服务管理办法》(征求意见稿)，提出AI内容必须真实准确，禁止非法获取、披露、利用个人信息和隐私、商业秘密。在AI技术飞速发展日益普及的今天，国家的立法会越来越完善，以深信服为首的网络安全公司也将肩负起社会责任，推动AI技术在反诈领域的运用。