一键检测视频语音是否为AI伪造 国家反诈中心App上线AI鉴定功能

海报新闻记者 姜雪颖 刘敬怡 北京报道

“国家反诈中心App上布建了人工智能内容鉴定功能，大家可以上传可疑视频、语音、图片，一键检测是否存在人工智能生成痕迹，鉴别伪造信息。”

7月24日，国务院新闻办公室举行“开局起步‘十五五’”系列主题新闻发布会，公安部刑事侦查局局长姜国利就公安机关应对AI换脸、深度伪造等新型技术犯罪挑战回答记者提问。

姜国利表示，近年来不法分子利用人工智能等新技术实施违法犯罪时有发生，涉及电信网络诈骗、侵犯个人隐私、破坏社会信任乃至威胁国家安全等领域。对此，公安机关高度重视，采取多种措施打击和整治。其中，面向公众推出的AI内容鉴定功能，成为群众防范新型诈骗的实用工具。

据介绍，该功能在国家反诈中心App上线，可以上传可疑视频、语音、图片，一键检测是否存在人工智能生成痕迹，鉴别伪造信息。

此外，为防止诈骗发生，公安机关依托大数据分析，搭建风险研判模型，对高频陌生视频通话、静默录音来电、短时间多次调取人脸素材、境外发起的视频请求等新型诈骗手法，进行综合研判分析，形成精准预警指令和线索，推送各地公安机关开展预警劝阻工作。

在依法打击方面，姜国利透露，今年上半年，全国共侦办利用人工智能工具生成网络谣言案件170余起，依法查处190余人。同时，公安部联合网信办、工信部、国家广电总局发布《人工智能生成合成内容标识办法》，规范内容标识，向公众提示人工智能合成内容。上半年共开展人工智能应用服务监督检查600余次，对相关服务提供者进行警告、责令整改、关停等行政执法30余次。

姜国利表示，公安机关将持续加大利用人工智能实施违法犯罪行为的打击力度，不断提升技术防范能力，切实保障人民群众的财产安全和合法权益，为“十五五”开局起步营造安全稳定的网络环境。

来源：海报新闻