企业如何应对AI造成的安全威胁

ChatGPT作为目前在自然语言处理领域表现非常优秀的AI模型之一，它可以生成自然的语言文本并对自然语言文本进行理解和回答，同时能够找到计算机系统漏洞。这就引起了人们对它可能被用来大规模地创建有效的网络钓鱼活动的合理关注。



人工智能的风险与隐患
 
从类别上看，ChatGPT属于“生成式 AI”（Generative AI）的范畴。生成式 AI的崛起会对安全和隐私问题带来巨大的冲击。利用生成式 AI 模型，不法之徒可以以更低的成本、更高的效率来伪造文本、图片，甚至视频的资料，并以此来从事诈骗、恐吓、诽谤等犯罪行为。
 
ChatGPT可让新入行的网络攻击者编写钓鱼邮件。同时，人工智能工具将使恶意的内部人员或获得中介访问权的网络犯罪分子更容易设计和操纵公司内部的对话，发送目标精确的伪装成来自公司内部人员合法请求的钓鱼邮件。
 
企业可采取的防御措施
 
企业可以采取以下步骤来树立“安全第一”的企业文化，最大程度保护自身免受人工智能已知或潜在的威胁：
 
1. 确保企业倾向于持怀疑态度。企业各层级员工都应质疑在电子邮件或任何其他通信渠道中看到的东西。例如，2022年某互联网大厂一名员工使用邮件时被意外钓鱼导致密码泄露，进而被冒充财务部盗发邮件，多名员工因邮件发件地址为内部域名而填写个人信息。据统计，共有24名员工被骗取四万余元人民币。
 
2. 提供持续、实时的网络安全培训。企业需要帮助员工实时识别网络钓鱼攻击，在员工点击欺诈性链接或将特权信息下载到优盘时指出它的发生情况。
 
3. 完善企业安全政策并实际执行。安全转型需要在企业中的每个人对网络安全的思考方式上进行文化变革。当今安全领域的最佳实践可以是有效的，但只有在充分实施和遵循的情况下。与其他安全步骤一样，企业应该持续地沟通安全问题，提醒员工对他们的期望。
 
4. 质疑当前的标准做法。有安全意识的文化的一个重要组成部分是愿意改变流程和实施新的工具，以跟上不断变化的网络威胁形势。企业需要准备好考虑更安全和高效的网络安全协议模式。
 
围绕安全建立企业文化
 
许多企业在增强员工能力时，开始看到在应对先进人工智能威胁方面取得更大的成功，这始于加强IT、人力资源、安全团队和员工之间关于风险、数据隐私、互联网使用等方面的沟通。在当今的威胁环境中，安全是每个人的责任。