像ChatGPT这样的生成式人工智能模型问世后不久，诈骗者就推出了像FraudGPT这样的工具，它潜伏在暗网上，承诺通过精心设计网络攻击来帮助犯罪分子。
网络安全公司Netenrich在7月份将FraudGPT识别为“ChatGPT的恶棍化身”，它帮助制作鱼叉式网络钓鱼邮件，提供破解密码的工具，并编写无法检测到的恶意软件或其他恶意代码。
于是，人工智能的军备竞赛开始了。
企业正在采用基于生成式人工智能的网络防御，希望能超过攻击者使用类似工具的速度。但专家警告称，需要付出更多努力，包括保护生成式人工智能模型背后的数据和算法，以免这些模型本身成为网络攻击的受害者。
本月，IBM发布了对企业高管的调查结果，其中84%的受访者表示，出于网络安全目的，他们会“优先考虑生成式人工智能安全解决方案，而不是传统的解决方案”。根据该调查，到2025年，基于人工智能的安全支出预计将比2021年增长116%，该调查基于200名美国公司的首席执行官、首席安全官和其他高管的回答。
高级立法者已经开始担心人工智能可能对网络安全构成的危险。
在9月份参议院情报委员会的一次听证会上，弗吉尼亚州民主党主席马克·沃纳(Mark Warner)表示:“生成模型可以改善网络安全，帮助程序员识别编码错误，并为更安全的编码实践做出贡献……但有了潜在的好处，也有缺点，因为这些模型同样可以很容易地帮助恶意行为者。”
另外，五角大楼的国防高级研究计划局在8月份宣布了一项竞赛，旨在设计基于人工智能的工具，以修复常用软件中的错误。这项为期两年的竞赛旨在创建能够自动防御任何类型软件免受攻击的系统。
IBM表示，正在开发基于生成式人工智能模型的网络安全解决方案，以“提高威胁检测和响应能力的速度、准确性和有效性，并大幅提高安全团队的生产力”。
Darktrace是一家网络安全公司，在美国和世界各地都设有办事处，该公司负责战略参与和威胁的高级副总裁马库斯·福勒(Marcus Fowler)表示，该公司正在部署用于网络安全目的的定制生成人工智能模型。
该公司正在使用人工智能来预测潜在的攻击，并设计专有的自学习人工智能模型，这些模型可以观察和理解“它们所部署的环境的行为”，这意味着计算机网络在企业或政府环境中的正常使用模式。福勒说，它绘制了个人、同行团体和异常值的活动图，他曾在中央情报局工作，负责开发该机构的全球网络操作。
然后，该系统能够检测到“偏离正常的情况，并为这种偏离提供一个背景”，让安全专家采取行动，他说。
福勒说，该公司还开发了人工智能系统，研究安全专家如何调查漏洞，并创建“自主分类能力”，使调查的前30分钟左右实现自动化，使安全官员能够在检测到攻击或漏洞时迅速采取行动。
达科他州立大学(Dakota State University)校长何塞-玛丽·格里菲斯(Jose-Marie Griffiths)说，除了检测异常和协助调查网络攻击之外，人工智能工具还应该有助于分析恶意软件，以确定攻击者的来源。格里菲斯此前曾在国会国家安全委员会(National Security Commission)负责人工智能的工作。
Griffiths说:“对恶意软件进行逆向工程，以确定是谁发送的，目的是什么，这是一个我们还没有看到很多人工智能工具使用的领域，但我们可能会看到相当多的工作，这是我们感兴趣的领域。”
虽然恶意软件主要是软件代码，但黑客通常会用他们自己的语言，或给自己或给别人，附上关于某一行代码功能的注释。格里菲斯说，使用人工智能来收集这些信息，尤其是那些用英语以外的语言写的信息，可以帮助强化归因。
Griffiths表示，使用生成式人工智能模型来改善网络安全的势头正在增强，但安全专家也必须注意保护生成式人工智能模型本身，因为攻击者可能会试图闯入模型及其底层数据。
IBM旗下网络安全部门X-Force的研究主管约翰?德怀尔(John Dwyer)表示，在网络安全领域更广泛地使用生成式人工智能，可能有助于缓解安全专家面临的长期问题。
德怀尔说:“长期以来，警惕性疲劳、人才短缺和心理健康问题一直与网络安全有关。”“事实证明，我们可以应用(人工智能)技术来真正推动解决每个人都在处理的一些核心问题。”
德怀尔说，网络安全专家一直处于警惕状态，做着重复的工作，“在一堆干草中寻找一根针”，要么离开这个行业，要么面临心理健康挑战，这些都让他们精疲力竭。
Dwyer说，使用人工智能模型来卸载一些重复的任务可以减轻工作量，并允许安全分析师专注于高价值的任务。
Griffiths说，随着所有在线技术的进步，网络上可公开访问部分的合法使用的进步往往伴随着犯罪分子和黑客活动的水下或暗网“更快的增长速度”。在生成AI的情况下，当防御者急于将工具整合到防御中时，攻击者也在竞相使用相同的工具。
“不幸的是，这就是我们所处的战斗，”她说。“它将是恒定的。”
2023 CQ-Roll Call公司版权所有由论坛内容代理有限责任公司分发。
引用:网络防御系统寻求在人工智能竞赛中战胜罪犯(2023年，10月25日)2023年10月25日检索自https://techxplore.com/news/2023-10-cyber-defense-outduel-criminals-ai.html本文档
作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司
内容仅供参考之用。
