因安全问题 组织倾向于禁用消费级生成式人工智能

黑莓公司发布的最新研究显示，英国66%的组织目前正在实施或考虑禁止工作场所使用ChatGPT和其他消费级生成式人工智能应用程序。69%的部署或考虑禁令的受访者表示，这些措施是长期或永久性的，数据安全、隐私和企业声誉的风险促使决策采取行动。78%的受访者还表示担心不安全的应用程序会带来网络安全对其企业IT环境的威胁。



尽管大多数人倾向于彻底禁止，但他们也认识到生成式人工智能可能有利于员工提高效率（53%）和创新（44%），并增强创造力（42%）。当谈到使用生成式人工智能工具进行网络安全防御时，大多数受访者（74%）仍然赞成，这表明IT决策者不希望措手不及，让网络犯罪分子占据上风。
 
黑莓网络安全首席技术官Shishir Singh呼吁各组织对工作场所的生成式人工智能采取谨慎而动态的方法，他说：“禁止在工作场所使用生成式人工智能可能意味着大量潜在的商业利益被抵消。随着平台的成熟和法规的生效，可以将灵活性引入组织策略。关键在于拥有正确的工具来查看、监控和管理工作场所中使用的AI应用程序。”
 
调研机构此前就认为，尽管生成式人工智能给各行业带来了机会，但担忧其使用的伴生风险是合理的。生成式人工智能的广泛应用再次扩大了组织的数字足迹，安全行业普遍认为，其中知识产权保护、数据泄露、侵权欺诈三大数字风险场景问题表现最为突出。也就是说，对于组织利用生成式人工智能最大的问题就是必须担心内容安全和数据隐私安全问题。
 
风险总是与发展并存，为应对生成式人工智能带来的数字安全新风险，安全厂商已经着手推出相应的解决方案，其中数字安全厂商天际友盟已推出了DRP-AIGC（AI Generated Content，生成式人工智能）服务，该服务通过准备、监控和反馈三个阶段的部署应用，将解决企业利用生成式人工智能扩大商机带来的新的外部数字风险。
 
在准备阶段，该服务将根据关键词和AIGC平台范围清单，确定监控范围，并取得用户的授权，为后续协助处置做好准备；在监控阶段，服务将会按照关键词及关联信息根据AI算法生成各类关联问题在各AIGC平台进行问答，再对答案进行分析研判，从而实现风险监控与风险评估；在反馈阶段，服务将根据监控和评估结果形成定制服务报告以周、月形式提供给客户，同时还可协助处置相关风险。