AIGC隐藏大危机?聊聊网络安全将要面对的重大挑战与潜在机遇
自ChatGPT发布以来,全球都陷入了AIGC热,它似乎将成为未来几年内最火的新方向。在官方定义里,ChatGPT 系列是一款基于自然语言处理(NLP)的对话生成系统,可以与用户进行流畅和有趣的交流,OpenAI宣称ChatGPT4.0是“最先进的系统,能生产更安全和更有用的回复”。但用户对此观点不一,有人称赞ChatGPT的智能和创造力,有人质疑ChatGPT的可靠性和安全性,也有人担心ChatGPT的影响和威胁。对于ChatGPT的爆火,马斯克也曾表达过他的顾虑:“人工智能是值得人们担忧的,尤其是在安全方面。”
对于大众来说,可能对于AI带来的网络安全问题感受不到太大影响,目前讨论度较高的问题基本是AIGC创作带来的隐私保护、版权、结果合法性等。而对于企业来说,AIGC技术是否可能为网络攻击者提供工具,以极大强化攻击规模、攻击效果、攻击纵深,从而对现有的数字防御体系造成不可逆的破坏?这可能是企业家或者高层决策者们更关心的问题。
人工智能确实是一把双刃剑,在为各行各业的业务和人们的生活带来巨大发展潜力的同时,也为网络安全形势带来前所未有的挑战。一方面,人工智能可用于提高网络安全的效率,包括自动检测和响应威胁、智能识别漏洞;另一方面,黑客也可将人工智能技术用于网络犯罪活动, 这将是对网络安全的真正威胁。同时,人工智能赋能网络攻击与传统网络攻击在技术与手法上相比, 将使过去劳动密集型、成本高昂的攻击手法开始彻底转型,朝着分布式、 智能化、自动化方向发展,从而形成更为精准和快速的自动化攻击手法。未来,随着大模型AI计算被广泛应用于网络攻击各个领域,网络安全形势将更加严峻,攻防真正进入智能化对抗时代。
那么,面对AIGC伴随着的威胁,我们应该如何应对呢?
3月31日,南方日报策划的「产业互联网十大趋势」系列沙龙将在多个平台同步直播。
本期邀请三位大咖作为对话嘉宾,共同探讨AIGC应用持续升温,对网络安全带来的挑战与应对。
主持人:
张耀疆 安在新媒体创始人
对话嘉宾:
谢涛 北京大学计算机学院软件科学与工程系系主任、欧洲科学院外籍院士、ACM会士、IEEE会士、AAAS会士、CCF会士
于旸 腾讯安全玄武实验室负责人、腾讯杰出科学家
张格 国家工业信息安全发展研究中心首席专家张格
敬请关注「南方+客户端」「腾讯安全公众号」「腾讯研究院公众号」「中国信息安全公众号」,预约收看本次对话。