随着人工智能和大模型技术的迅猛发展,它们为人们的生活带来了前所未有的便利与变革。从DeepSeek等应用的爆火,到AI PC等端侧AI设备的加速普及,AI 的身影无处不在。然而,AI 技术的滥用也带来了新的安全威胁。其中,AI 换脸诈骗作为一种新兴的、极具隐蔽性和危害性的手段,正逐渐成为网络安全领域的一大挑战。
两会期间,全国人大代表、全国政协委员等呼吁立法整治AI“换脸拟声” 的话题也引发广泛关注。AI 换脸,本质上是生成式 AI 的一种创新应用,它借助深度学习技术,能够生成高度逼真的虚假视频或图像。随着该技术的不断成熟,伪造的视频和图像足以以假乱真,这也为不法分子提供了可乘之机。他们利用 AI 换脸技术,肆意开展各种欺诈活动,如诈骗、身份盗窃、发布虚假信息等,给个人、企业乃至整个社会都带来了严重的损失和危害。
为了应对日益严峻的 AI 换脸等恶意应用的威胁,联想集团凭借其在AI领域的深厚积累和敏锐洞察力,即将推出一项具有重大意义的 AI 防诈技术 ——“Deepfake 深度伪造技术检测器”。在今日联想集团的一则宣传片《用AI守护AI》中,展示了该技术的更多细节,其能够精准识别各种 Deepfake 换脸伪造,有效遏制 AI 欺诈行为的蔓延,据了解,该检测器的准确率高达 96%。
在众多 AI 换脸技术中,Deepfake 无疑是发展最为成熟的代表项目之一。Deepfake,由 “deep learning”(深度学习)和 “fake”(伪造)组合而成,精准地概括了这项技术的本质特征。它作为人工智能深度学习领域的一个重要分支,自诞生以来便备受关注。然而,Deepfake 技术迅速从实验室走向大众视野,在各类应用场景中频繁出现,也引发了广泛的社会关注和担忧。
联想 “Deepfake 深度伪造技术检测器” 基于 DeepSeek 开源大模型构建,体现了其对前沿技术的精准把握和有效利用,并可部署在AI PC本地运行,也进一步强化了联想AI PC个人数据和隐私安全保护的特性。DeepSeek 大模型以其卓越的性能和广泛的适用性,为检测器提供了坚实的技术支撑。在此基础上,联想的研发团队持续深入探索 AI 生成内容的识别与防范技术,不断优化算法和模型,致力于打造出一款高效、可靠的 AI 反诈工具。同时,四川省反诈中心、腾讯云、奇安信等政府机构、云计算服务及网络安全厂商已经加入联想的AI反诈倡议。
联想提出的 Deepfake 深度伪造技术检测方法具有诸多先进性。从技术原理上看,它运用了先进的深度学习算法,对图像和视频中的细微特征进行深入分析。通过构建复杂的神经网络模型,该检测器能够学习到真实人脸和 Deepfake 伪造人脸之间的微妙差异,从而准确判断出视频或图像是否经过 AI 换脸处理。这种基于数据驱动的检测方式,相较于传统的基于规则的检测方法,具有更高的准确性和适应性,能够更好地应对不断变化的 AI 换脸技术。
在功能实现方面,联想的这项技术已经取得了显著成果。例如,在在线视频会议场景中,当用户接入会议时,系统能够实时对参会人员的视频进行检测。一旦发现对方视频可能是 AI 伪造,会立即向用户发出提示,有效增强了会议的安全性。这一功能对于企业而言尤为重要,因为在商务洽谈、机密信息交流等场景下,确保参会人员身份的真实性至关重要。而在社交媒体浏览过程中,该技术可以自动对视频内容进行扫描,标记出疑似 AI 换脸的视频。这不仅帮助普通用户轻松辨识视频的真伪,避免受到虚假信息的误导,同时也有助于维护社交媒体平台的健康生态,减少虚假信息的传播。当用户使用 AI PC时,系统能够实时感知 AI 换脸安全风险,并及时向用户发出预警。无论是在日常办公、娱乐还是其他使用场景下,用户都能得到全方位的安全保护。
该技术目前已实现了广泛的应用适配,可在笔记本电脑、台式机、平板电脑和手机等多种设备中运行。这意味着,无论用户身处何地,使用何种智能设备,都能享受到联想 AI 反诈技术带来的安全保障。这种跨平台的兼容性,充分体现了联想以用户为中心的设计理念,致力于为广大用户提供便捷、高效的安全服务。
除了高准确率和广泛的应用场景外,联想 “Deepfake 深度伪造技术检测器” 中的 Deepfake 检测算法还具有高效性。它能够在短短 5 秒内对图像或视频进行快速检测,实现自动化的分析和实时反馈。在信息爆炸的时代,时间就是金钱,对于可能遭受 AI 欺诈的用户来说,快速的检测结果能够为他们争取宝贵的应对时间,有效避免损失的发生。
同时,该技术还支持迭代升级,具备强大的防御能力。随着 AI 伪造攻击技术的不断发展,如 Faceswap、Face2face、Neuraltextures 等新型技术层出不穷,联想的检测器通过持续收集 AI 换脸样本,对深度学习模型进行持续训练和优化,保持不断的系统升级,以适应新出现的 AI 换脸技术和攻击手段。这种动态的、持续进化的防御机制,确保了检测器始终能够保持在行业领先水平,为用户提供长期有效的安全防护。
联想推出 “Deepfake 深度伪造技术检测器”,不仅仅是一项技术创新,更体现了其作为科技企业的社会责任和担当。联想始终坚守“人本智能”科技发展观,人本智能是指从“以人为本”的视角重新审视人工智能技术及其影响,要求在人工智能技术研发,人工智能产品与服务的设计、应用以及与外界交互中,都必须以满足人类需求和谋求人类福祉为首要目标。AI 技术的发展虽然带来了新的风险,但通过积极的技术创新和应用,同样可以成为防范风险、保障安全的有力武器。
从保护用户权益的角度来看,联想的这项技术为广大用户提供了一道坚实的安全屏障。在日常生活中,用户可能会因为 AI 欺诈而遭受财产损失、个人信息泄露等问题。而 “Deepfake 深度伪造技术检测器” 的出现,让用户能够更加安心地使用各种智能设备和在线服务,不用担心受到 AI 换脸欺诈的侵害。这不仅提升了用户的生活质量,也增强了用户对科技产品的信任度。
对于企业而言,该技术有助于营造一个更加公平、安全的商业环境。在商业活动中,身份验证和信息真实性至关重要。通过准确识别 AI 换脸伪造,企业能够有效防范商业诈骗、保护商业机密,降低运营风险。这对于促进企业的健康发展、维护市场秩序具有重要意义。
从社会层面来看,联想的 AI 反诈技术有助于维护社会的稳定和和谐。AI 欺诈行为的泛滥不仅会给个人和企业带来损失,还可能引发社会信任危机。通过推广和应用先进的 AI 反诈技术,能够有效遏制 AI 欺诈行为的发生,增强社会公众对科技发展的信心,推动社会的可持续发展。
联想集团高级副总裁,智能设备业务集团全球创新中心总经理贾朝晖表示,“在AI换脸诈骗层出不穷的当下,联想集团全球安全实验室的团队正在基于DeepSeek开源大模型,打造"AI照妖镜",专门揪出那些以假乱真的AI生成内容。反诈行动的本质是场攻防拉锯战,伪造技术每天在升级,工程师们也在日夜兼程。想赢,就不能单打独斗。联想集团期待与更多技术合作伙伴一起,给数字世界筑起安全防线。我们坚信, AI不是藏在阴影里的那双眼睛,它应该真正成为照亮生活的光。“