10月27日，新疆阿克苏市公安局退还刘先生被骗的6000元，由于他遭遇的电诈情形特殊，阿克苏市公安局刑事侦查大队反诈中心主任陈新专门对其开展防范AI诈骗宣传。
10天前，刘先生遭遇了拟声类AI诈骗。
作为阿克苏市一家烟酒茶行的老板，刘先生的客户颇多，生意往来频繁，尤其是和一些老客户长时间相处后，便如朋友一般，对彼此都有一些了解。
10月17日，刘先生接到一通陌生来电，电话那头自称“陈某”的人说：因手机电量耗尽关机，所以借朋友的电话与刘先生联系。
声音熟悉，口音也相似，尽管语调有些僵硬，刘先生也没有对这通“老客户”来电起疑。
“陈某”告诉刘先生，他的朋友要购置一批烟酒，他便向朋友推荐了刘先生的店。但这期间请客送礼所产生的费用，得由刘先生报销。
一听有大生意，刘先生爽快答应。随后，他向“陈某”提供的银行账户转账6000元。
接着，“陈某”又将话题转到那位朋友最近投资的黄金项目上，希望刘先生也能参与其中，共同盈利。
这些反常的话语引起刘先生的怀疑，在他的印象里，从事建筑行业的陈某最不擅长投资理财，如今主动招揽，实属异常。
为验证自己的猜测，刘先生边通话边给陈某的微信发送一条求证消息。
陈某回复了一个问号。
看到问号的那一刻，刘先生知道不妙，他赶忙挂断电话报案。
“多亏刘先生及时报案。”陈新介绍，反诈中心民警快速锁定收款账号，冻结涉案资金，追查资金流向，发现被骗钱款已转至陕西省西安市。
10月22日，民警在西安市抓获为境外电诈团伙洗钱的犯罪嫌疑人吴某，追回6000元案款。
目前，该案正在进一步侦办中。
“我遇到的是AI诈骗？之前从没听说过。”刘先生说。
“这是一种新型诈骗。”陈新说，伴随人工智能快速发展，AI合成技术逐渐向低算力、小样本学习方向演进，大部分AI合成技术利用手机终端即可完成。
这就给了电诈团伙可乘之机。以刘先生被骗案为例，诈骗分子先在不知不觉间抓取陈某的语音样本——案发后，民警询问陈某相关情况，陈某对给刘先生打电话推介客户一事感到匪夷所思。陈某回忆，10月初，他曾接到一个陌生电话，接通后，无人说话，陈某“喂”了几声，问了句“你是谁”后，电话就被挂断了。
“陈某发出的声音被集中收集，成为AI合成技术的样本。”陈新介绍，提取声音后，利用AI拟声技术，诈骗分子会生成与目标对象音色、语调、节奏等特征相似的语音，并根据需要随时输入文本更改语音内容，从而模仿目标对象的声音，以此骗取受害人的信任，进行电信网络诈骗。
“太可怕了，让人防不胜防。”刘先生说。
“除了你遇到的拟声类AI诈骗，还有类似的AI换脸诈骗，更难以分辨。”陈新说，由AI图像合成技术演变的诈骗手法更加隐蔽和逼真，灵活性强，诈骗成功率高，很难防范和追查。
“如何预防AI诈骗呢？”刘先生问。
陈新提醒，如果有陌生人或熟人通过电话或视频要求转账汇款，一定要保持警惕，并通过其他方式核实对方身份。“此外，你还需要与熟人、家人约定一个暗语或隐私问题，以便随时查验身份，保护自己。”陈新说。
