AIGC时代如何防范图像篡改风险？合合信息为群众送上防骗“锦囊”

随着人工智能的发展，P图软件等图片编辑工具在日常生活中得到了广泛应用，其在便利公众生活的同时也给了犯罪分子可趁之机，基于篡改图像实施的诈骗案件频频发生。为了增强全社会抵制网络不良信息的意识和能力，上海市静安区委网信办在2024年“网络举报宣传周”期间举办了“静安区网络举报宣传小课堂”活动。在生成式人工智能风险科普课堂上，合合信息技术专家为社区居民讲解AIGC时代如何防范图像篡改欺诈风险，演示智能图像处理技术如何助力反诈工作的推进。

据专家介绍，人脸图像伪造和卡证照篡改是当前图像领域面临的两大主要风险。受多种伪造方法叠加、新伪造工具涌现、图像视频压缩等因素影响，篡改图像特征分布复杂，目前的图像篡改检测技术面临泛化性和鲁棒性不足的困境。

图说 AIGC时代主要欺诈风险

以身份证检测场景为例，当我们拍摄身份证照片上传电子系统审核时，受所处环境光线影响，照片经常会出现反光现象，再加上部分用户会给身份证套上一层塑封包装，加剧了信息的模糊程度。机器要在排除这些外部因素干扰的基础上识别照片是否存在贴图、复制移动、插入文本等多种篡改形式，增加检测难度。

针对上述问题，合合信息基于数据驱动的神经网络模型，推出了图像篡改检测方案，能够智能提取篡改留下的细微痕迹，可检测出多种篡改形式，适用于金融、保险以及商场小票造假等多个检测场景。该技术具备了基于大规模数据训练的强大特征学习能力，能够有效提高图像篡改检测技术的准确率和泛化能力，帮助群众精准识别伪造图像。

图说 合合信息图像篡改检测技术对常见证照篡改痕迹进行定位

近年来，生成式人工智能的涌现在创造机遇的同时，也带来了更多犯罪风险。目前，我国已经相继出台了信息安全技术相关法律法规保护公民的合法权益。在图像内容安全领域，由中国图象图形学学会、中国信息通信研究院、合合信息等公司和多所高校联合编制、中国互联网协会发布的《文本图像篡改检测系统技术要求》团体标准于今年9月正式发布，指导行业共同应对AI合成图像造假等一系列新难题，从源头降低电子文档图像诈骗风险。

诈骗手段层出不穷，构建全民反诈统一阵线刻不容缓。开展反诈科普课堂活动，有助于提高社会各群体警惕意识，保护财产安全。合合信息将继续深耕文档图像反篡改领域，用AI帮助广大群众规避诈骗风险，携手社会各界共同打造安全可信的网络环境。