自然语言处理会成为数据安全新威胁和后门吗？

神经网络该平台线性已视作一项重要的网络该平台公共安全核心技术，目前它主要用于比对黑客、将经过筛选的发出呈现在公共安全分析家面前，以及已确定漏洞优先级以打上正式版。深入研究神经网络该平台和计算机系统管理系统公共安全的研究员发出称，未来这类管理系统可能被从业者的奇袭者所来进行。

深入研究医护人员在去年刊登的一篇深入研究学术论文里面暗示，神经网络该平台的冗余功用可以让奇袭者将原始数据隐秘在类似的神经网络该平台明文里面，%明文20%的大小，而不显著直接影响模型的效率。2019年的另一篇学术论文断定，受感染的体能训练服务则可能会在神经网络该平台里面植入实际不间断发挥作用的后门，即使该网络该平台接受体能训练以处理其他特殊任务。

图1 《能力也神经网络该平台阻碍行列式》

来源：MITRE

法利维尔神经网络该平台深入研究机构（BIML）牵头创始人任副首席制订官Gary McGraw暗示，这两篇深入研究学术论文断定了神经网络该平台发挥作用的潜在阻碍，但最直接的高风险还是套取或篡改原始数据的奇袭。他暗示：“如果将机密的资讯倒入机械里面，并让神经网络该平台该原始数据，人们可能会没想到机械里面仍然发挥作用机密的资讯，没想到可能会有一些更加高明的手段可以放到的资讯。核心技术开发医护人员通常只着重于于为该核心技术想象新主要用途，而忽略了其核心技术开发产品的公共安全性时，这种潜在阻碍有时可能会更加严重。”

2020年，微软、MITRE等公司牵头发布了一份表列出潜在奇袭清单的通报——《能力也神经网络该平台阻碍行列式》（Adversarial ML Threat Matrix）。通报称，民营企业需要分析报告依靠计算机系统或神经网络该平台核心技术的管理系统是否发挥作用潜在高风险。一些高风险（比如将原始数据隐秘在神经网络该平台明文里面）与日常高风险没多大不同。除非民营企业测试管理系统较强连续性，否则更加多针对神经网络该平台的高风险可能会大获成功，比如有可能创立这样的模型：奇袭者触发后，都能以特定的方式则采取行动。

软件公共安全公司Sophos的首席科学家Joshua Saxe暗示，造成这种必然的原因是防御者只着重于于眼前的奇袭，而不是着重于于那些未来且不能实施的有用奇袭。随着更加多的公共安全从业者医护人员依靠神经网络该平台管理系统来完成工作，都能了解到这种阻碍形势将更为更加重要。深入研究医护人员创立的能力也奇袭行列式包括不作为检查黑客和控制流量、僵尸网络该平台具体来说生成线性（DGA）以及黑客二进制明文的机器。

McGraw指出，随着神经网络该平台的领具体来说，原始数据面对更加大的高风险。因为敏感原始数据常常可以从神经网络该平台管理系统里面恢复，同时，通过神经网络该平台生成的管理系统又常常以不公共安全的方式则运行。如果对神经网络该平台管理系统制订的浏览被曝露后，原始数据在操控过程里面也可能会曝露，这突显了神经网络该平台一个至关重要但未予以强调的总体，即确保原始数据公共安全非常重要。

Saxe暗示，神经网络该平台阻碍有别于奇袭者使用计算机系统/神经网络该平台核心技术来策划人更加有效的奇袭。神经网络该平台奇袭则可能会更加多地在机械人和自动驾驶汽车领具体来说发生，因为它们不仅依靠线性来操控，还将计算机系统决策转化成实际动作，公共安全医护人员需要阻止和严防破坏这些线性的行径。

虽然深入研究医护人员断定了多种类型神经网络该平台奇袭的可能性尤其大，但大多数仍在数年后才可能会出现，因为奇袭者的机器箱里面仍有简单得多的机器照样可以尽力其解决问题奇袭旨在。

参考链接：

>

方面阅读

神经网络该平台在公共安全大势感官该平台里面的领具体来说实践

神经网络该平台模型尽力比对 800 例 BGP 抓捕