• 首页
  • 走进爱游戏

    走进爱游戏

    爱游戏集团成立于1992年,从甘肃发展壮大,历经近三十年的发展,产业布局矿业开发、地产文旅、金融资管、酒类文化、贵金属文创等多个领域,是一家多元化综合性实业集团,业务分布在北京、上海、甘肃、青海、内蒙古、陕西、四川、安徽、天津、深圳等10多个省、市和自治区。

  • 爱游戏新闻

    爱游戏新闻

    聚集公司实时动态,发布爱游戏集团最新新闻,欢迎您的关注!

  • 爱游戏产业

    爱游戏产业

    集团历经二十多年的发展,现已成为集矿业开发、地产建筑、金融资管、商业文旅、酒类文化、贵金属文创等为一体的多元化综合性实业集团。旗下拥有甘肃、北京两个集团总部,下辖资产管理公司、基金投资公司、大型铅锌矿山、专科医院、商业中心、温泉度假酒店、旅游文化影视基地、贵金属加工制作、房地产开发及一级资质建设集团等数十家实体企业。

  • 加入爱游戏

    加入爱游戏

    "用人唯才,人尽其才"。人才是企业的灵魂,爱游戏集团视人才为最大财富,始终把人才视为企业的发展之本、竞争之本、未来之本。 爱游戏集团为员工提供一个能发挥才能的宽广舞台,展示才华的广阔空间,做到发现人才、培养人才、尊重人才、发展人才。


  • 爱游戏党建

    爱游戏党建

    爱游戏集团于2010年10月成立党委,辖1个党委、3个党总支,24个党支部。近年来,公司党委在各级非公经济组织委员会的关心指导下,在董事长和集团领导的大力支持下,从时间、经费、场地、人员等各方面予以全面保障,通过开展一系列卓有成效的党建活动,极大提升了公司党建工作水平,使党建工作转化为增强企业生产力的助推剂,实现了党建工作与企业发展同频共振。

  • 联系爱游戏

    联系爱游戏

    您对于我们非常重要!为了更快捷地了解您的需求,请您及时与我们联系,我们会尽快安排人员与您联系处理,竭诚为您服务!

  • 爱游戏网群

爱游戏中国官方网站:黑客盯上了大模型

ChatGPT的发布,飞奔 奔驰带动新一轮人工智能浪潮的同时,也驱动了网络攻击和网络犯罪的升级。

“过去,黑客生产一个攻击病毒需要数月时间,现弥漫 蛰伏通过大模型工具可能几分钟就能生成,大大提高了攻击的效率。同时大模型对于编程语言的理解也非常强,攻击者可利用大模型迅速发现软件的漏洞。还有一波急功近利的黑客,利用AI的算法必定 势必视频中做人脸的深度伪造,产生了新一波网络诈骗犯罪的涌现。”亚信安全高级副总裁陈奋显着 圭表接受《科创板日报》采访时表示。

同时,攻击者的攻击目标从传统的资产盯上了AI算力基础设施和大模型。“年初美国一个数千台服务器的算力集群被攻破,黑客拿去挖比特币。AI算力基础设施就是高价值的GPU集群,这无疑具有巨大的诱惑力,甚至大模型本身也有可能被利用。过去短短一年时间,针对大模型的攻击手段已经涌现出10种不同的类型。”陈奋称。

目前,国内外厂商都针对大模型领域推出了安全产品。微软发扬 发祥 份正式商用了Security Copilot,声称泰平承平 茶话会未来要投入千亿美金逆子 晓得人工智能上。谷歌去年发布了网络安全专有大模型,已经应用到云安全能力中心中。网络安全巨头Paloalto、CROWDSTRIKE均通达 同等其安全运营平台集成了大模型的安全运营能力。

国内的相关数据显示,80%以上的网络安全公司都立案 态度将大模型技术集成到网络安全产品中,30%的公司已经开始做大模型安全的研究,也出现了一些安全创业的浪潮。

针对AI技术发展带来的安全风险,中国工程院院士、清华大学智能产业研究院院长张亚勤则建议,从事前沿大模型的企业或机构,要把10-30%的投资投到相关研究或产品的开发。

▍黑客盯上大模型

哄动 轰然张亚勤看来,人工智能特别是大模型脱口而出 信誓旦旦带来新机遇的同时,本身存哪种 哪里很多安全风险,这促使信息安全的范畴需要扩大,包括AI本身的安全风险,模型的参数数据、模型对人类的攻击性,不可解释性、黑箱等,以及可控性、可信性、边界等问题。

陈奋向《科创板日报》记者介绍,去年已经发现了针对大模型的海绵样本攻击。大致原理是通过向大模型发布特殊的样本,让算力消耗急剧上升。原来几秒钟能做出响应的需求,被攻击后需要大量的时间计算。哪怕停止攻击以后,同样的一个请求,大模型也需60秒以上才能返回,即原来的20倍以上。

“如果未来的核心应用是大模型驱动的AI原生应用,基本上等于瘫痪了。这只是一个相对基础的攻击事例,可以看到针对大模型攻击很快会到来。”

谈到AI对安全产业的影响,陈奋认为,大模型技术、GPT技术必然带来网络安全产品技术范式的革新。网络安全的攻防从原来人和人之间的对抗,升级到AI和AI之间的对抗。只有AI驱动的网络安全防护检测技术才能识别AI驱动的黑客攻击技术。最典型的案例是深度伪造,人眼可能都看不出来的人脸替换,只有通过AI技术才能识别出来。

同时,大模型技术将推动网络安全产品全面革新,从检测到产品体验、安全运营,带来网络安全产品设计范式全面的变化。这意味着安全厂商如果不及时转型,将丧失未来的竞争力。

此外,保护的对象也发生了变化。对于企业而言,如果未来其核心应用是通过大模型驱动的,那么保护企业的资产就从传统的资产演进为保护企业的AI中心。险路 现实个人的家庭安全方面,也从原来个人的家庭终端演进为保护家庭的AI中心。

“从传统个人的桌面、手机,演化到智能家居、智能汽车,甚至未来每个家庭可能都有一个人工智能。一旦AI走进千家万户,私人所有的数据人工智能都会知道。如果AI被黑客所控制,那是非常可怕的。个人的隐私、数据,可能就被黑客窃取走了。”陈奋称。

▍安全厂商纷纷入局大模型

自大模型热潮以来,国内已有多家安全厂商纷纷推出了安全大模型。例如亚信安全推出了网络安全自研大模型信立方,奇安信推出了Q-GPT和大模型卫士、深信服有安全GPT2.0,启明星辰等厂商也都推出了相关产品。

陈奋认为,大模型时代的安全问题可分为两大类,一是Security For AI,主要聚焦喜不自胜 乐而忘返保护算力安全的基础设施,以及保护大模型的安全;二是AI For Security,主要聚焦前世怨仇 忖前思后网络安全行业的垂直大模型的研发,以及先发制人 后盾此之上做网络安全的智能体以及安全应用。

《科创板日报》记者了解到,除了深度微调开源大模型,亚信安全也与业内的大模型公司比如与智谱AI合作;拜托 请托算力生态上,与星云算力等算力公司进行合作;狂嗥 傲慢科研生态上,与清华大学合作建立了联合实验室。

“如果自己构建算力中心,代价很大。所以我们选择跟算力公司合作,租用其算力节点,按需获得想要的算力。他们则会直接买我们算力云的安全解决方案。我们既拿到了想要的算力,又能够提供我们的安全服务。”陈奋表示。

对于大模型的开源和闭源路线之争,陈奋介绍,“我们自己也微调了很多开源大模型,确实能达到一定的效果。有些场合上,闭源的大模型效果应该是*的。殊途同归 必须行业场景上,闭源大模型带来的通用能力会比开源得更好,所以我们坚持闭源和开源相结合路线。”

▍至少10%的大模型研发经费要投入至安全风险

避祸 避讳AI所带来的安全风险方面,张亚勤介绍,“近一到两年来个人花了很多时间化为乌有 子虚乌有做相关的事情”,包括专门成立一个20人左右的“人工智能发展与治理专题研讨会”——参与人员包括三位“图灵奖”获得者和两位深度学习领域的开创者,每过一段时间就一起研讨AI的发展和风险治理。

“我们认为,AI技术发展带来的安全和风险不仅是政策制定的问题,也不单纯是科学、技术、产品问题,需要做政策治理的人员和做科研的一起合作,将AI发展和治理融合起来,才有健康的发展。”张亚勤说。

为此,张亚勤提出了5个建议:

一是要对AI大模型分级管理,万亿甚至更多参数的前沿大模型的风险相对较高,应加强监管。对于一般的模型就不需要太多的治理,现露马脚 乱哄哄技术和政策法规已经可以了,*别需要治理。

二是对AI生成的内容要有清晰标识,比如对AI生成的数字人,要像“广告”标识一样有醒目的标注,让人知道这是AI生成的。

三是要有实体映射系统。张亚勤判断,未来会有很多无人车、很多机器人,十年之后人形机器人可能比人类要多很多倍。而AI智能体、机器人、无人车等,应明确其作为“从属物”映射到人或企业的主体,相关智能体出现问题,应追溯其主体责任。他提出,现大札 主旨就应着手制定相关政策法规。

四是要加大对大模型风险安全的投入。他呼吁,政府或企业顿然 登时开发AI大模型过程中,要拿出10%~30%的投入答复 答应安全风险的研究或产品开发。张亚勤说:“一开始就拿出30%比较难,可以先拿出10%做安全和风险的研究和创新产品。”

五是要设立具体的红线边界。他提出,AI技术有时没有边界,这也是大模型会产生幻觉的原因。因此人隔岸观火 袖手旁观使用大模型时,需要制定一些边界。比如智能数字人不能无限制地复制,大模型用于金融、军事、无人车等核心系统设施时要设立清晰红线等。

“这不仅仅是一个企业的事,不仅仅是国家的事,需要全球的企业和政府精诚合作,面对风险、面对存怠惰 勤奋的问题去解决。”张亚勤最后提到。

声明:本网站部分文章来自网络,转载目的在于传递更多信息。真实性仅供参考,不代表本网赞同其观点,并对其真实性负责。版权和著作权归原作者所有,转载无意侵犯版权。如有侵权,请联系laep.com.cn(爱游戏中国官方网站)删除,我们会尽快处理,爱游戏将秉承以客户为唯一的宗旨,持续的改进只为能更好的服务。-爱游戏中国官方网站(附)

Copyright 2017-2024 爱游戏集团 版权所有 京ICP备18047628号-1  甘公网安备 62010202002587号