人工智能与网络安全是一把双刃剑：人工智能与网络安全是一把

原标题：人工智能与网络安全是一把双刃剑

文章图片
研究表明，人工智能技术为各行业组织的业务带来了巨大的发展潜力，但同时也带来了威胁和风险。如果某人或某个组织通过人工智能技术获得不当的利益或违法犯罪，那么人工智能技术就是他们手中的武器，并会产生各种威胁。人工智能技术在安全方面并不完全是坏消息。例如人工智能在网络监控和分析方面非常有效。
人工智能如今已经成为一个热门话题，关于人工智能的用途以及可能带来风险的误解和困惑也越来越多。一方面，文学作品和电影几十年来将人工智能技术描绘成为反乌托邦式的全能机器人。另一方面，许多人了解人工智能在加快人类社会发展的潜力。尽管计算机系统可以学习、推理以及采取行动，但这些行为仍处于早期阶段。机器学习(ML)需要学习大量数据，并根据人类分配给人工智能的功能转化为训练或指导。而允许人工智能访问信息并给予其充分的自治权会带来严重的风险，必须得到控制。
人工智能的主要风险与其创造者有着内在的联系。由于人类会犯错误或有偶然的偏差，或者说，程序员的粗心或数据的错误可能会使人工智能系统产生一系列的错误。人工智能系统的不当设计还可能导致计算系统的规模过大或过小，从而导致人工智能系统做出不必要的决策或陷入停顿。而采用诸如人工监督的控制系统并严格测试人工智能系统可以在设计阶段降低这些风险。因此必须对计算系统的决策能力进行测量和评估，以确认是否可以快速解决偏差或可疑决策，并在必要时予以纠正。尽管所描述的人工智能的风险是基于无意的错误以及设计和实施中的缺陷造成的，但是如果个人或组织利用人工智能系统作恶的话，人工智能就像罪犯手中的武器一样带来更多的威胁。
网络犯罪分子可能比人们想象的更容易地使用人工智能技术，并“训练”人工智能系统为其获利。他们可以操纵输入计算机的数据集(数据中毒)以“训练”人工智能，甚至对控制参数进行更改，这一切都是为了将其引向自己的目标。如果网络犯罪分子无法访问数据集，则可以利用篡改技术来强制人工智能系统产生计算错误或使其难以正确识别数据集。即使只是出于财务原因，检查数据和输入的准确性可能并不可行，但安全人员仍需要尽一切努力从可靠且经过验证的来源收集数据。在针对网络攻击的防御措施中，值得一提的是，在某些部分或整个人工智能系统中添加了具有自动预防机制的隔离功能。
Deepfakes的力量
网络犯罪分子还可以使用人工智能使其网络攻击行为或社交策略更加有效。人工智能可以提供黑客活动的数据集，以研究哪种技术最有效。使用人工智能可以显著改进网络犯罪分子当前正在实施的所有策略。他们采用人工智能的另一个潜在领域包括识别软件、应用或网站代码中的新缺陷。在这种情况下，人工智能系统将为他们提供一系列潜在的攻击点，如同训练有素的猎犬一样。
人们不要忘记Deepfakes带来的影响，它可能是网络犯罪分子利用社交软件的一个前沿领域。例如2019年在英国发生的一件采用Deepfakes进行诈骗的事件，当时一家公司的财务人员成为一个精心设计的骗局的受害者，该骗局基于Deepfake音频通话技术。使受害人相信自己正在与该公司的首席执行官通话，于是毫不犹豫地根据其指令将25万美元转给网络犯罪分子，毫无疑问，电话诈骗是采用Deepfake技术进行不当获利的措施之一。
但是正如人们所看到的， Deepfakes显然可以成功并令人信服地得以应用。这名受害者当时表示，他通过“轻微的德国口音”和“说话节奏”确认了首席执行官的声音。如今制作Deepfakes音频的过程非常简单。网络犯罪分子只需要采用机器学习技术即可克隆目标人物的声音，通常使用间谍软件和设备，使他们可以收集目标人物数小时的录音。
他们能够收集的数据越多，音频文件的质量就越好。实际上，语音克隆得越准确，也就越有可能造成损害。一旦创建了语音模式，人工智能就开始“学习”模仿目标的语音。然后使用所谓的生成性对手网络(GAN)进行改进，通过多次尝试，该算法能以指数级的速度改进自身。
对于备受瞩目的目标人物而言，这不是一个好消息(例如知名企业的首席执行官) 。他们的演讲被在线记录并通过社交媒体共享，而电话、访谈和日常对话的音频和视频也相对容易获得。有了足够的数据， Deepfake音频文件所达到的准确性水平令人震惊，网络犯罪分子可以采用人工智能技术模仿想要说出的任何话语。