AI诈骗新花样：如何防范？

AI诈骗新花样：如何防范？

引用

证券时报网

等

9

来源

1.

https://www.stcn.com/article/detail/1116440.html

2.

https://www.secrss.com/articles/63541

3.

http://www.xinhuanet.com/20240314/a2f7f44e70d44f0da1387c8892056a12/c.html

4.

http://www.news.cn/legal/20240226/da985bba58bf4ea2a65b872d06aec6a5/c.html

5.

https://www.zaobao.com.sg/news/world/story20240314-3103220

6.

https://www.jfdaily.com/news/detail?id=845710

7.

http://www.news.cn/science/20240620/6667809116f5426cb289789a810162b4/c.html

8.

http://gxt.fujian.gov.cn/zwgk/ztjj/wxdgl/djzldxwlxxwffzzxxd/202410/t20241021_6551195.htm

9.

http://zqb.cyol.com/pc/content/202412/31/content_404956.html

香港最大AI诈骗案近日曝光：诈骗分子利用Deepfake技术，通过公司YouTube视频和公开媒体资料，成功伪造高管形象和声音，在视频会议中骗取财务人员2亿港元。这一案件不仅创下香港AI诈骗金额之最，更是首例涉及"多人变脸"的诈骗案。

近年来，随着人工智能技术的快速发展，一些不法分子开始利用AI技术实施新型诈骗。其中，"AI换脸"和声音合成是最常见的手法。

在陕西西安的一起案例中，某公司财务人员张女士接到一个视频通话，"老板"要求她立即转账186万元到指定账户。由于视频中的人脸和声音都与老板高度相似，张女士信以为真，迅速完成了转账操作。直到她将电子凭证发到公司财务群，才发现真正的老板对此毫不知情。

AI换脸技术主要通过以下几个步骤实现：

1. 人脸识别追踪：利用深度学习算法精准识别视频中的人脸图像，定位关键面部特征。
2. 面部特征提取：采集眼睛、鼻子、嘴巴等关键部位的特征数据。
3. 人脸变换融合：将提取的特征与目标人脸进行匹配替换，并进行图像融合。
4. 背景环境渲染：添加合成音频，生成高度逼真的虚假视频。

专家指出，要达到以假乱真的效果，需要大量资金投入和专业算法支持。一张照片只能实现简单的静态换脸，而实时视频通话则需要近千张不同角度的照片进行深度学习训练。

面对日益猖獗的AI诈骗，我们该如何保护自己？专家建议从以下几个方面加强防范：

1. 多重验证：在涉及转账等重要操作时，不要轻信视频或音频，应通过电话或其他方式再次确认。
2. 保护隐私：谨慎分享个人照片和声音信息，特别是生物特征数据。
3. 关注细节：虽然AI生成的图像和声音越来越逼真，但仍可能在光线、阴影或图像边缘出现异常。
4. 提高意识：通过媒体和教育机构了解AI诈骗的最新手法，增强防范意识。

AI技术是一把双刃剑，既带来便利，也带来风险。据统计，香港去年科技罪案激增至近3.2万起，同比增长53%，涉案金额超50亿港元。其中，网络投资诈骗增加显著，共4703起，是前年同期的1.8倍。

专家警告，随着AI技术的不断发展，辨别真伪的难度将越来越大。目前，AI换脸更多应用于娱乐领域，仿真度相对较低。但一旦被用于诈骗，其危害性不容小觑。

面对AI诈骗的威胁，需要政府、企业和公众共同努力：

• 政府层面：加强AI安全立法，建立伦理审查制度，对AI产品进行分级审批。
• 企业层面：提升技术透明度，优化算法，接受公众监督。
• 公众层面：提高安全意识，学习防范知识，谨慎处理敏感信息。

正如香港警方所强调的："在人工智能'深伪技术'下，网上已经'眼见不一定为实，有图有片亦不一定是真相'。"只有保持警惕，多方联动，才能在这场AI安全攻防战中占据主动。