近日，奇安信集团对外发布《2024人工智能安全报告》（以下简称《报告》）。据悉，这是我国首份人工智能安全报告。《报告》认为，人工智能是新一轮科技革命和产业变革的核心技术，被誉为下一个生产力前沿。具有巨大潜力的 AI 技术同时也带来两大主要挑战：一个是放大现有威胁，另一个是引入新型威胁。

　　数据显示，在2023年，基于AI的深度伪造欺诈暴增了3000%，基于AI的钓鱼邮件数量增长了1000%。据了解，奇安信威胁情报中心监测发现，已有多个有国家背景的APT组织利用AI实施了十余起网络攻击事件。同时，各类基于AI的新型攻击种类与手段不断出现，甚至出现泛滥，包括深度伪造（Deepfake）、黑产大语言模型、恶意AI机器人、自动化攻击等，在全球造成了严重的危害。

　　《报告》指出，AI与大语言模型本身伴随着安全风险，业内对潜在影响的研究与重视程度仍远远不足。AI技术推动安全范式变革，全行业需启动人工智能网络防御推进计划，包括利用防御人工智能对抗恶意人工智能，扭转“防御者困境”。

　　业内普遍预测，未来十年该技术的恶意使用将迅速增长，人工智能的恶意使用在网络安全、物理安全、政治安全、军事安全等方面构成严重威胁。

　　大模型引爆AI热潮 双刃剑效应显现

　　2022年以后，以ChaGPT为代表的大语言模型（Large Language Model，LLM）AI技术快速崛起，后续的进展可谓一日千里，迎来了AI技术应用的大爆发，展现出来的能力和效果震惊世界。IDC调研显示，67%的中国企业已经开始探索 AIGC 在企业内的应用机会或进行相关资金投入。IDC预测，2026年中国AI大模型市场规模将达到211亿美元，人工智能将进入大规模落地应用关键期。

　　《报告》认为，“AI是一种通用技术，通用就意味着既可以用来做好事，也可以被用来干坏事”。具有巨大潜力的AI技术同时带来两大主要挑战：一是放大现有威胁，另一个是引入新型威胁。奇安信预计，未来十年，人工智能技术的恶意使用将快速增长，将在政治安全、网络安全、物理安全和军事安全等方面构成严重威胁。

免责声明：本网站部 分文章和信息来源于互联网，本网转载出于传递更多信息和学习之目的，并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题，请立即联系管理 员，我们会予以更改或删除相关文章，保证您的权利。对使用本网站信息和服务所引起的后果，本网站不作任何承诺。