全球焦点!AI能被“污染”?大模型浪潮下 网络安全面临哪些新挑战
AI就像硬币的两面,“既能帮助好人也能助纣为虐”,这背后是AI大模型可能被“投毒”。
当前,AI大语言模型浪潮席卷全球,国内企业院校纷纷推出自研大语言模型,各行各业也在探索AI赋能之道。但AI既可以为效率“提速”,也有可能成为黑灰产牟利的工具,在这一背景下,大模型本身以及大模型相关产业将会出现哪些安全风险?国内的网络安全行业要如何应对?
(资料图片)
贝壳财经记者近日分别参加C3安全大会与2023全球数字经济大会人工智能高峰论坛并采访相关专家。有专家认为,人工智能的安全问题并非如今才有,但在大模型浪潮下,需要防止AI大模型被“污染”,同时大模型时代数据安全将比以往更加重要,大模型是否会导致数据泄露,如何保护企业核心技术资产,都是大模型时代需要关注的重点。
要防止AI模型被“污染”
亚信安全首席安全官徐业礼在接受贝壳财经记者采访时表示,大语言模型技术目前谈得非常广泛,其的确是一个革命性的改变,AI行业也已经达到2.0时代。在这样的情况下,谈AI安全的也越来越多,AI跟安全的关系包括:第一,AI系统越来越大,本身的安全就是一个关键,这涉及AI“投毒”,模型被篡改,包括AI系统本身有边界防护端点防护的能力。第二,AI做坏事怎么办?AI可能生成一些误导信息怎么办?另外,大量使用AI,特别是境外的AI可能导致数据的泄露,这都是非常大的风险和问题。
“人工智能就如同双面人,既帮助好人,也帮助坏人。善用AI可以创造很好的功能,但如果不能做好安全管理,AI可以带来危险,所以人工智能大模型很重要的环节是安全的考量。”英普华亚太及日本区技术副总裁周达伟说。
周达伟表示,即便有庞大的算力,但如果没有稳定的使用环境,内容不能确保不受恶意攻击。“这里有两个重点,第一个重点是我们需要面面俱到,做全面的保障,因为不只是我们存储,要确保资料和安全,确保里面不受到其他人攻击,还要保障传输环节,保障我们的访问环节。第二,我们要做防患于未然的准备,在人工智能时代,不能用猫抓老鼠的方式做,要先行部署,全面化保障人工智能大模型带来的资产,我们要多思考相关内容。”
清华大学计算机系长聘教授、清华大学人工智能研究院副院长朱军在人工智能高峰论坛中发言称,大模型之前的人工智能时代,我们已经发现人工智能本身具有所谓的安全问题。而AIGC(AI创造内容)特别是ChatGPT出现以后,安全问题越来越严重,“我们比较关注的大模型本身可能会对Prompt Injection(大模型输入提示文字)有攻击风险,加入少量编辑就会误导,也存在数据泄露的风险,ChatGPT会把很多隐私数据上传。现在也有用AIGC(AI创造内容)技术提升诈骗手段,通过虚假内容实现黑客攻击,包括代码生成实现网络攻击。生成的虚假内容本身是不良的,存在误导性和欺骗性。除此之外,算法本身是否存在政治偏见和数字鸿沟,数据采集的过程中会不会侵犯知识产权,这些在大模型时代都变得越来越重要和受关注。”
朱军认为,需要提升安全评测能力,大模型可能会有角色扮演或者误导欺骗,应该如何识别和防御,数据投毒等方式和手段也要进行评测,“大家可能会发现,如果故意混淆一些提示,Prompt会让大模型误把原来不符合规定的东西生成出来,这是比较常见的现象,评测中需要重点关注。AIGC需要加入标识,评价的过程中也需要针对标识的不可感知性、容量、鲁棒性、安全性进行全面评估。”
在周达伟看来,过去很注重的是远程安全和应用安全,但在大模型的产业互联网时代,会更注重数据安全,以及API(Application Programming Interface,应用程序编程接口)安全,“我们从流量去看,现在最新的数据有83%的网页应用和API有直接关系,其中27%的相关攻击是针对API做出的,所以我们应该更加注重了解以及保护数据安全,包括API安全的部分。”
用人工智能防御人工智能风险
贝壳财经记者注意到,我国对人工智能治理非常重视,已经发布了一系列重要规定和法律,包括《AIGC服务管理办法(征求意见稿)》《互联网信息服务深度合成管理规定》等。
朱军表示,数据在标注、训练、使用、部署的过程中都会涉及安全问题。如何保护隐私,让敏感数据信息不泄露,甚至不出现关键数据的安全问题;服务本身是否透明,算法有无偏见,是否公平公正等都需要关注。
在他看来,解决人工智能的安全问题,需要从人工智能基础尝试,因为人工智能大部分都体现在算法上,算法原理本身是否能够有可以克服的问题,这需要从根本上解决。针对深度学习、深度神经网络,学术界一直在探索第三代人工智能新的范式,希望能够将数据和知识有机融合在一起,发展更加安全可靠的人工智能框架。
贝壳财经记者发现,用技术手段甚至人工智能来防御人工智能带来的风险,已经成为了从业者探索的领域之一。
“我们可以发展人工智能,更重要的是我们要防止不良意图的人利用人工智能来破坏人工智能,来攻击人工智能,我们要学习如何利用人工智能来强化人工智能的安全保障。”周达伟说。
亚信安全终端安全产品总经理汪晨对贝壳财经记者表示,实际上早在几年前就已经实现了人工智能的机器学习技术,“人工智能有监督学习,无监督学习,包括其他一些方式,但是最能落地的是有监督学习,原理就是通过大量的样本训练,来让我们的模型或者说我们的机器学习能够甄别出防病毒软件的DNA。”
汪晨认为,一方面,AI技术可以帮助甄别出病毒软件的DNA,即使他们进行了伪装,也能识别出其是黑是白;但另一方面,因为AI需要通过大量数据训练才能获得能力,如果用黑客污染过的数据进行训练,训练出的模型就会存在漏洞。如何确保训练数据的准确率和精准度,是目前面临的新挑战。
“需要构建有效的治理工具平台,前期我们做了探索,包括人工智能本身的安全平台,安全评测、防御和整个态势的评估,包括对抗样本这些场景,可以通过平台化的方式对人工智能的算法和服务进行评测。特殊专业的应用场景,要专门针对对抗样本检测、伪造视频检测等进行防护,这是人脸识别的防火墙,现在金融行业也在部署和应用。”朱军表示,“我们也有打造人工智能安全靶场,大家可以看到攻击和防御其实是一个博弈的过程,就像在网络安全时代,人工智能时代也需要可行的安全靶场。平台可以将人工智能算法早期的风险发现和相应的防御进行有效诊断、提升和持续演化。”
360公司创始人、董事长兼CEO周鸿祎参加人工智能高峰论坛时表示,每个企业内部自己的“knowhow”(专业技术/技术诀窍)是核心资产,肯定不能拿来训练公有大模型,“公有大模型使用会有数据泄露的问题,因为很多想法和计划都要告诉它,才能写出一篇好文章。”
而汪晨则对记者表示,终端安全极为重要,“当前网络环境确实发生了新的变化。第一,整个网络加密流量增多了,所以在网络侧很难看清危险,85%的黑客攻击是潜伏在网络加密流量里面,只有在终端增强之后才能看清和搞定。第二,随着企业数字化的转型,都是通过终端访问数字化(资产),如果终端产品做不好会影响你的数字化转型的进程。”
标签:
推荐文章
- 全球焦点!AI能被“污染”?大模型浪潮下 网络安全面临哪些新挑战
- LOL-LPL:Heng孙悟空腾云突击连抢两龙,WE坐镇主场2-1战胜WBG-全球今热点
- 南京夫子庙简介(夫子庙简介) 精彩看点
- 法国这波骚乱造成多少经济损失?超10亿欧元! 全球播资讯
- Eremid获得300万美元战略投资-全球今头条
- 高质量发展看中国丨各地“三夏”现场扫描 天天快播
- 白百合真的离婚了吗_白百合发布离婚公告怎么回事相关介绍简介
- 警惕!这类兼职,可能成间谍帮手! 当前信息
- 环球播报:中科院上海光机所在基于钙钛矿相分离的高性能防伪获重磅进展 实现密钥尺寸可调的PUF
- 决胜“千店时代”,维也纳国际酒店规模竞速底气何来?-焦点速递
- 韩国踩踏事故151死 4名中国公民遇难_全球最严重踩踏事故历年来世界各地踩踏事故 精选
- “知危险会避险” 公安部组织全国交警开展多种多样的暑期安全体验课
- 隆扬电子:7月3日融资买入729.21万元,融资融券余额4363.06万元
- 焦点速递!望都新颖调(对于望都新颖调简单介绍)
- JioBharat 4G手机推出支持UPI售价999卢比
- 汕头国际纺织城开工建设|今日热议
- 万和财富早班车
- 中重科技7月4日盘中涨停|环球热点评
- 桌面小电风扇不转了怎么修_电风扇不转了怎么修 每日速读
- 当前热门:纳思达(002180)7月3日主力资金净买入160.66万元
- 绿康生化07月03日获深股通增持5.53万股
- 知名主持人名下公司,数百万财产被冻结!她曾晒护照辟谣:没有移民,没有绿卡
- 冬天英文怎么读-冬天英文_全球新消息
- 小市集 大民生
- 达于汉阴的于是什么用法_达于汉阴的于-环球快报
- 全球速讯:天赋进化系统_天赋进化
- 今日聚焦!高层顶楼的房子能买吗_恒大顶楼房子怎么样
- 中国女乒大捷,世界第一轰11-0,孙颖莎、陈梦、王艺迪4-0强势冲冠_快播报
- 比亚迪价格战!海豚4S店优惠超1万 新款再官方降价?
- 生猪价格进入过度下跌一级预警区间 国家将启动年内第二批中央猪肉储备收储工作 世界观点
- 最新消息:【甘快看】甘肃成县:科技进田让“瘦”地变肥 “一地多用”助农提效增益
- 每日速讯:wendy的英文名是什么意思(Wendy在英文里是什么意思 作为女儿英文名合适吗)
- 全球信息:从直播间到大湾区,刘宇宁真的要成顶流了?
- 快讯2023-07-03 18:45:18|每日播报
- 热点!世纪华通今天跌停 两机构合计净卖出约1.99亿元
- 世界热消息:建设单位资金
- 易方达投资级信用债债券基金:机构投资者限购250万元
- 全球观焦点:龙软科技:GIS软件系统已累计用户1800个矿
- 别往“旧油壶”里续新油,油脂氧化会传染-每日速看
- 中信消费金融回应股权变更:根据监管要求 对中信金控股权进行调整_全球实时
- 热点评!终于找到了!他已溺水身亡
- 大雨来袭!山东多地有大雨局部大暴雨,附安全防范指南|全球速读
- 焦点速讯:洛阳社保查询指南(洛阳社保如何查询)
- 三甲苯S-100#溶剂油商品报价动态(2023-07-03)
- 已去报警!蔡徐坤被曝与女生亲密照 发文怒斥造谣 当前报道
- 亚太主要股市全线上涨 环球焦点
- 焦点快播:中国游客吉隆坡机场遭刁难索贿,马国旅游部长“闯关救人”,首相带队突击检查
- 速看:湖南省第七届公仆杯羽毛球赛在益阳南县落幕
- 当前热点-衡水机场大巴(衡水机场)
- 全球速递!卵巢保养吃什么最好_卵巢保养需要注意什么
- 泉州市直小学招生入学网上报名截止7月4日24时
- 国资接管华晨集团 沈阳汽车成“白衣骑士” 世界头条
- 环球速看:《南洋女儿情》邝海生家里的女人是谁?
- 第十八届中国长春电影节将于8月28日举行
X 关闭
最新资讯
- 周鸿祎:大模型真正的机会在企业级市场 公有大模型存在四个问题 全球视讯
- 赛尔计划缪斯印刻推荐[多图]-世界通讯
- 上海静安消防:静安区一路边电表箱发生火情,现场无人员伤亡|每日聚焦
- 高度 厚度 广度!三个维度看宝安加快构建高水平医疗服务体系
- 记者:内马尔回巴萨除了工资都谈妥巴黎担大部分薪水就能成行-环球百事通
- 田尚志_关于田尚志介绍
- 桧佐木修兵的卍解_桧佐木修兵 环球热文
- 【全球速看料】[快讯]弘信电子:关于持股5%以上股东减持股份预披露
- 快看点丨赛力斯:6月销量18754辆 同比下降27.04%
- 360浏览器收藏夹路径目录 win7_360浏览器收藏夹路径_天天要闻
- 宋祖英新发型嫩回36岁
- 今日热搜:走珠香体液怎么用(走珠香体液)
- 当前速读:恭喜!孙颖莎王楚钦混双冠军
- 小森生活可以同居吗 每日播报
- 怎么用蒸锅蒸米饭 环球视点
- 魔兽世界解封咒语任务怎么做_魔兽世界解封咒语任务_全球快资讯
- 升级款“脸基尼”火了!有店铺狂卖30万件
- 《脑浆安可曲》-λ
- 海南“村VA” |“9是嗨唱”椰乡夏日音乐节真嗨!文昌龙楼掀起音乐热浪
- iPhone11玩王者荣耀掉帧解决方法介绍
- 风热感冒吃什么药好得快_风热感冒吃什么药好
- 北京怀柔东城开始新一轮五年结对协作,东城每年支持怀柔不低于1亿元资金
- melissalauren在线(melissa lauren无套片)
- 世界今日报丨【壁纸放送】七月日历已送达!
- 环球热消息:道县:李天明调研千亿矿业发展工作
- 中信建投:市场具备宏观流动性托底和权益资产高性价比投资价值 消息
- 6月零跑汽车全系交付13209台 同环比均实现增长|环球热头条
- 公司未给员工缴纳社保怎么赔偿的案例(公司未给员工缴纳社保怎么赔偿)
- winlicense3.0_winlicense 全球热议
- 全球关注:14岁女孩500元卖头发被商贩剪坏 民警怒斥:给她父母打个电话很费事吗
- 全球看点:充分激发乡村消费潜力
- 追随杜兰特!渡边雄太达成协议将加盟太阳
- 【全球新视野】湖人连签2将,太阳15人聚齐!追梦欧文留队,掘金冠军后卫赚翻
- 索尼限定PS5预约开始即使没有价格
- 网贷严重逾期还清多久能贷款|环球热议
- 学思想 强党性 重实践 建新功|青岛:乘势而上,加力提速实体经济振兴发展 播报
- 他留下!Stein:预计追梦将和勇士续签4年1亿美元合同 环球聚焦
- 解决老年人药品说明书"看不清"问题 国家药监局出手
- 清代建筑房屋_清代建筑
- 世界球精选!这才是家用“代步王”,颜值超飞度,401km续航,已成爆款
- 方向错觉_关于方向错觉简介_热门
- 《GRIME》即将限免_全球速讯
- 银江技术(300020.SZ)授出1550万股限制性股票 授予价为7.2元/股
- 全球通讯!山东综艺频道在线直播_山东综艺张敏健
- 狠看足球书(33):《大时代,2013广州恒大典藏金刊》
- iphone4s越狱6.1.3如何安装appsync(iphone4s越狱6.1.3)
- 世界资讯:丰台站构建立体交通网 打造8500平方米绿化景观 年累计发送旅客750万人次
- *ST新海:公司对不退市保持乐观态度|焦点快报
- 6月30日起将发行加载交通功能的社保卡,来看热点问答和领卡网点→_环球头条
- “滚珠丝杠”是机器人线性关节性能核心部件,公司拟扩建3万套项目有望超预期实现产品化过程
X 关闭