爱名网做网站教程,91色做爰免费网站,企业网站优化甲薇g71679做同等效果下拉词,山西疾控最新通告今天文 | 中国信息安全测评中心 王欣
随着 ChatGPT 的发布及相关应用的落地#xff0c;人工智能技术给全球各个行业带来了一波又一波冲击。GPT-4 多模态大型语言模型更是将人工智能的能力提升到新的高度#xff0c;无论从技术先进性还是应用实践能力来看#xff0c;此模型均可被…文 | 中国信息安全测评中心 王欣
随着 ChatGPT 的发布及相关应用的落地人工智能技术给全球各个行业带来了一波又一波冲击。GPT-4 多模态大型语言模型更是将人工智能的能力提升到新的高度无论从技术先进性还是应用实践能力来看此模型均可被称为当前人工智能发展的集大成者人工智能正以一种肉眼可见却难以预料的速度迅速扩展其能力边界。在人工智能的加持下网络攻防、开源情报、军事对抗等国家安全相关领域均出现前所未有的科技创新和突破或将对国家安全产生较大影响。 一、人工智能应用于军事斗争传统武器如虎添翼
当代军事领域既是战略前沿技术发展汇集的核心地带也是最富创新性、超越性、颠覆性的科学技术发展前沿人工智能作为当前最火爆的关键新兴技术之一在军事领域的武器装备赋能、战场情报分析、战略决策指挥、战时舆论引导等方面发挥着越来越重要的作用。
俄乌冲突战事持续焦灼以人工智能为代表的现代关键新兴技术在其中发挥了至关重要甚至主导性的作用。2022 年 12 月华盛顿邮报专栏作家大卫·伊格内修斯发表题为《算法如何在乌克兰打破平衡》的文章指出美国人工智能公司 Palantir 为乌克兰军队提供了功能强大的软件系统利用人工智能实现了精准的图像识别通过将来自卫星、无人机以及社交媒体等渠道的图片进行关联分析为乌克兰军方进行目标识别、瞄准打击、战事预警、战略决策提供了极大支撑。Palantir 首席执行官表示“依托先进算法的战争系统能力之强大等同于利用战术核武器来对抗常规武器。”3 月 24 日前美国陆军网络司令部作战副司令罗宾·丰特斯与人工智能公司 RAIN 部门主管约里特·卡明加联合发表题为《乌克兰是人工智能战争活生生的试验场》的文章指出俄乌冲突为人工智能技术提供了“活生生的试验场”使真正的网络化战场愿景更接近现实。在作战武器方面人工智能为大量使用的无人机和巡航导弹在飞行、瞄准和射击方面提供了增强的自主能力在战场情报方面美国企业发挥主导作用的人工智能广泛应用于地理空间情报分析结合了地面照片、无人机视频片段和卫星图像产生了战略和战术情报优势在电子对抗方面美国 Primer 公司为乌克兰部署人工智能工具用于分析俄罗斯无线电通信以获取战场实时情报在舆论认知方面俄乌双方利用人工智能生成大量虚假信息或错误信息进行舆论引导定向扰动民意产生认知迷雾。人工智能在俄乌冲突各个领域的应用充分说明此场冲突已经成为人工智能技术的试验场并发挥了重要作用真实战场数据反哺人工智能进行训练、调整和进化未来将出现新型的“AI”战争。关于 AI 增强武器系统的公开报道只是冰山一角人工智能技术已经开始部署在远离战场的系统中如与规划、后勤保障和预防性维护等领域相关的云计算和数据分析系统这场革命现在已经开始而且不会停止。2 月乌克兰数字转型部长米哈伊洛·费多罗夫在采访中表示完全自主的杀手级无人机是武器开发中“合乎逻辑且不可避免的一步”乌克兰一直在“朝这个方向进行大量研发”。5 月 9 日美国防部发布《2023国防科技战略》明确将可信人工智能与自治系统作为支撑国防创新的关键技术领域。
无论是在真实战场中的现实作用还是在国家战略规划中的重要地位种种迹象均表明“人工智能军事”的武器装备技术进一步成熟完善一场人工智能引领的军事变革浪潮即将在不久的未来渐渐显现。 二、人工智能应用于情报领域情报生产方式变革在即
人工智能技术凭借强大的数据整合分析能力广泛应用于情报领域将情报分析的自动化水平提高到新的高度。传统分析员借助人工智能更好地理解数据提升情报研判与预测能力情报机构利用人工智能技术高效的分析海量数据做出更精准的战略决策。
各国情报机构高度重视人工智能的赋能作用2022 年 12 月美国发布的《2023 财年情报授权法案》中明确指出人工智能是美国情报界重点关注的新兴技术之一法案指出“为提高情报竞争力情报界必须加速采用人工智能技术并将其纳入工作流程。调研情报界在开发、获取、采用、维护人工智能技术改进情报搜集、处理和分析全流程方面所取得的成效和不足确保商业尖端技术能够快速在情报界应用”。随着 ChatGPT 的发布更是掀起了该项技术在情报分析方面的应用热潮。2 月美国中央情报局CIA人工智能主管拉克希米·拉曼表示该机构正在通过联邦政府资助的研发中心以及学术界和工业界的合作伙伴寻求该领域的帮助探索使用聊天机器人和生成式人工智能功能协助其完成日常工作和总体情报任务将 AI 整合到 CIA 行动和系统的很多工作正在进行以确保 CIA 成为一个成熟的、人工智能驱动的组织并扩大对对手使用人工智能和机器学习能力的理解。3 月 29 日英国安全事务国务大臣汤姆·图根哈特撰文称希望英国能设立一个专注于“开源情报”OSINT的全新情报机构通过人工智能技术收集分析公开来源信息用以协助传统情报工作一方面帮助情报人员识别对手所造成的威胁另一方面用于打击“虚假信息”的传播。
在当前数字经济时代开源信息、网络数据已经成为情报生产的重要来源传统人力已经不能应对巨量的情报分析任务人工智能技术既能助力突破情报数据处理速度和规模上的瓶颈还在情报挖掘、决策辅助等方面发挥更大作用极大提升情报信息的可用性和洞察力。 三、人工智能应用于网络攻防产生锋“矛”固“盾”之效
人工智能之于网络攻防的赋能作用相当明显攻防两端均可利用人工智能技术开展更加高效、精准以及定制化的行动网络空间的对抗形势将更加严峻。
以 ChatGPT 为例其对网络攻防已经产生了意想不到的增强作用。在攻击层面ChatGPT 凭借其强大的代码编写能力、文本生成能力受到多方赞誉但是这也降低了网络攻击的门槛攻击者能够利用人工智能模型建立完整攻击链条自动化生成攻击代码甚至具有实战功能的攻击工具。自 ChatGPT 发布以来暗网论坛中充斥着大量使用 ChatGPT 生成恶意代码的教程和相关恶意软件网络安全公司 CheckPoint 曾在 2022 年 12 月展示了利用 ChatGPT 实施完整网络钓鱼攻击的过程并依据其监测数据发出了“网络犯罪开始使用 ChatGPT”的警告。近日Forcepoint 公司的研究人员成功绕过 ChatGPT“反恶意使用”保护机制仅花费 4 小时就生成一款具备文件窃取及隐写传输功能恶意软件并能够逃避近 70 款检查引擎的查杀。英国安全公司 DarkTrace 发布警告称“ChatGPT 助长了网络勒索和更高级的网络欺骗”。人工智能技术凭借其强大的模型能力使网络攻击的自动化程度、攻击隐蔽性、攻击渗透能力等均得到了不同程度的提升随着模型的不断改进它将成为恶意行为者越来越强大的工具和帮手。在防御层面人工智能与威胁情报、大数据、云计算有效融合形成算力、算法和数据叠加优势有效提升网络威胁的响应和处置能力。俄乌冲突中微软联合人工智能公司 RiskIQ 协防乌克兰从外而内识别乌信息系统中的攻击面帮助乌克兰及时发现和阻止大量网络攻击。3 月 28 日美国微软公司宣布将 GPT-4 引入网络安全发布了全球首款真正意义上的网络安全 AI 产品“微软安全助手”Microsoft Security Copilot以下简称Copilot。Copilot 凭借人工智能的高效数据处理能力进行网络安全事件响应、评估和防御实现对威胁事件的秒级响应和规模化处置。微软将最前沿的网络安全技术与人工智能相结合是 AI 能力边界的再一次有效扩展是在 ChatGPT 热潮之后的又一项具有里程碑意义的人工智能落地应用。面对网络威胁Copilot 是一个名副其实的“安全大脑”它具备了网络安全专家甚至专家团队的能力既能够让初级安全人员快速上手解决安全问题又能够为高级安全人员面对高级威胁提供及时有效的支持。从技术角度看微软凭借多年的积累和布局在算力、算法和数据等人工智能核心领域占据得天独厚的优势。在算力方面微软 Azure 云基础设施平台为 Copilot 提供了充足的计算能力在算法方面Copilot 将全球最先进的生成式大语言模型与其领先的网络安全专用模型相结合在数据方面微软积累了庞大且优质的威胁情报和安全大数据成为 Copilot 不断进化能够凭借的巨大数据金矿。除此之外生成式人工智能也成为 2023 年 RSA 大会最热门的赛道谷歌、埃森哲等厂商均推出了以人工智能作为核心技术的网络安全产品Veracode、记录未来等企业也宣布要将生成式人工智能引入自身产品。人工智能无论作为一种解决方案提供方还是一种能够重构现有解决方案的技术都将在未来的网络安全领域发挥重要作用。
人工智能对网络安全带来了巨大而深刻的影响它既被用来改进和加强网络安全解决方案帮助分析人员更高效地分类威胁和修复漏洞也被黑客用来发动更大规模、更复杂的网络攻击。人工智能将改变当前网络攻防态势以 AI 对抗 AI 的场景将愈发普遍。 四、对策建议
ChatGPT 加速了人工智能时代的到来随着其能力边界不断拓展凭借在军事对抗、情报分析及网络攻防领域的应用优势将成为大国博弈的另一战略武器将对国家安全产生持续深远的影响。我国应密切关注全球人工智能技术发展及应用的最新动向提早布局增强人工智能的技术竞争能力。
一是加强人工智能核心技术研发保障关键领域应用安全。受益于数字经济发展的热潮人工智能在我国呈现了蓬勃发展态势在已形成的产业规模、人才投入、论文专利等方面均处在全球领先水平但我国在人工智能领域更加聚焦于技术应用在基础理论、核心算法、模型框架、芯片等方面的核心关键技术与国外仍存在较大差距。我国应进一步加强人工智能核心软硬件技术的研发实现从算法、模型框架、元器件、基础设施到系统结构的自主创新和全产业链的整体技术突破保障在我国关键领域人工智能应用的安全可靠。
二是发展符合我国内业务场景的专用模型提升应用能力。通用人工智能大模型在内容生成、逻辑推理等方面展现出不凡能力但专用模型更具备特定场景下解决现实问题的能力。我国在人工智能应用场景多样性方面拥有先天的优势细分场景广泛而丰富用户基础庞大数据汇集效应较易形成我国应充分利用此优势以应用为牵引加快发展不同行业领域的人工智能专用模型汇聚国内科研和产业界的人工智能算法、算力优势行业领域的数据资源优势探索适合我国内现实情况的人工智能发展技术路线。
三是做好准备应对人工智能带来的网络攻防对抗严峻形势。在人工智能的助力下全球网络空间将面临前所未有的严峻攻击态势攻击战术、战法都将发生“范式”性的变化攻击烈度、规模、逃逸性、抗溯源能力等将得到较大提升。我国应做好充分准备应对人工智能给网络空间攻防对抗带来的挑战加强网络威胁情报数据的统一和共享促进人工智能技术在网络威胁监测、攻击溯源检测、自动化协同防御、漏洞检测与识别等方面的应用提升网络威胁防护能力。
本文刊登于《中国信息安全》杂志2023年第5期
