应对AI带来的安全挑战,业内专家给出这些建议

tamoadmin 0

  今年***工作报告提出,提高网络、数据等安全保障能力。

  当前,新一代人工智能与实体经济深度融合,广泛应用于社会民生领域,但人工智能带来的安全挑战也更加复杂。

  6月5日,以“AI驱动安全”为主题的2024全球数字经济大会数字安全高层论坛暨北京网络安全大会战略峰会在北京国家会议中心开幕。

应对AI带来的安全挑战,业内专家给出这些建议
(图片来源网络,侵删)

  中央网信办网络安全协调局副局长王营康表示,人工智能带来的安全挑战和攻击威胁尤其值得关注,攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具,网络安全从***对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。

  面对人工智能时代新的网络安全态势,2024年***工作报告提到,“加强重点领域安全能力建设”“提高网络、数据等安全保障能力”。

  国家网信办原副主任陈智敏在致辞中表示,数据安全是人工智能安全的前提和基础。要从网络安全保卫向数据安全保卫的工作模式拓展,为构建与数字生产力相适应的新型生产关系奠定基础。

  王营康建议,要统筹网络安全各方力量,构建大网络安全工作格局,推动形成体系化防御能力;要统筹高质量发展与高水平安全,推动形成人工智能综合治理体系;要坚持网络安全教育、技术、产业融合发展,推动形成人才培养、技术创新、产业发展的良性生态。

  根据奇安信发布的《2024人工智能安全报告》,AI既放大现有网络安全威胁,又引入了新型威胁,引发网络安全***指数级增长。其中,2023年基于AI的深度伪造欺诈暴增3000%,基于AI的钓鱼邮件数量增长了1000%。

  全国工商联副***、奇安信集团董事长齐向东在演讲中提到,AI驱动安全是大势所趋,谁能提前抓住AI变革的机遇,谁就能掌握网络空间安全的主动权。他判断,当前网络安全格局正在被颠覆重构,但这种颠覆重构不仅带来新的安全挑战,也为网络安全行业带来前所未有的战略机遇。

  如何尽快发挥AI赋能网络安全的积极作用?先进计算与关键软件(信创)海河实验室主任、中国新一代人工智能发展战略研究院执行院长龚克建议推进AI与网络安全融合创新。一方面,人工智能的发展推动了网络安全技术的创新。例如,基于深度学习的恶意软件检测、用户行为分析等新技术不断涌现,提高了网络安全的防护能力。另一方面,人工智能的自动化和智能化特性又可以大大提高网络安全管理的效率。通过自动化检测、响应和风险评估等流程,可以更快地应对网络威胁,减少潜在损失。

标签: #网络安全