欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

生成式人工智能技术滥用事件频发 三六零AI安全护航智能时代发展

时间:2023-06-28 17:35:07 | 浏览:411

近期,随着生成式人工智能技术快速发展,利用相关技术进行诈骗、诽谤的违法案件愈发频繁,引起社会的广泛关注。5月22日,包头警方发布的一起利用AI实施电信诈骗的案例冲上热搜,骗子通过AI换脸技术进行伪装,受害人10分钟内被骗走430万元。作为全

近期,随着生成式人工智能技术快速发展,利用相关技术进行诈骗、诽谤的违法案件愈发频繁,引起社会的广泛关注。5月22日,包头警方发布的一起利用AI实施电信诈骗的案例冲上热搜,骗子通过AI换脸技术进行伪装,受害人10分钟内被骗走430万元。作为全球领先的数字安全公司,三六零(601360.SH,下称"360")负责搭建科技部发起的安全大脑-国家新一代人工智能开放创新平台,将依托国家级的数字安全能力,破解人工智能安全的时代难题。

生成式人工智能技术滥用事件的出现得益于深度合成和机器学习的快速发展,诈骗者可通过使用这些技术,训练出能够模拟人类语言和神态的AI,换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。“换声”则是借助算法模型,根据已有的语音样本,生成近似的声音。OpenAI首席执行官Sam Altman曾表示,担心大模型可被用于大规模的虚假信息,也担心人类被控制。

5月24日,中国互联网协会发文表示,面对利用AI技术的新型骗局,广大公众需提高警惕,加强防范。早在2017年7月,国务院印发《新一代人工智能发展规划》,提出了面向2030年我国新一代人工智能发展的指导思想、战略目标、重点任务和保障措施,其中特别提到“到2025年初步建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力”。

作为全球领先的数字安全公司,360在人工智能安全领域深耕多年,涉及框架安全、模型安全、生成式AI安全等。截止目前,360已累计发现Tensorflow、Caffe、Pytorch等主流机器学习框架及供应链漏洞200多个,其中提交给谷歌Tensorflow的漏洞数98个,包括24个高危、严重漏洞,在全球各大厂商中排名第一,影响超过40亿终端设备,并入选了中央网信办“人工智能企业典型应用案例”。

2019年,“360安全大脑“入选科技部“国家新一代人工智能开放创新平台”,着力推动中国人工智能安全生态建设。目前,以GPT为代表的大模型技术席卷全球,360发现大模型既有传统AI模型面临的安全风险,也有大模型独有的新型安全风险,如模型窃取、提示注入风险等。为此,360全球首创了大模型安全风险评估体系"AISE",为全球大模型安全赋能。

2023年6月13日,“360智脑”大模型应用发布会将在北京召开。届时,将释出更多人工智能安全相关的研究或产品解决方案,为人工智能的健康发展奠定安全基石。

本文源自金融界资讯

相关资讯

生成式人工智能技术滥用事件频发 三六零AI安全护航智能时代发展

近期,随着生成式人工智能技术快速发展,利用相关技术进行诈骗、诽谤的违法案件愈发频繁,引起社会的广泛关注。5月22日,包头警方发布的一起利用AI实施电信诈骗的案例冲上热搜,骗子通过AI换脸技术进行伪装,受害人10分钟内被骗走430万元。作为全

什么是人工智能、如何应用人工智能技术?这场讲座给出了答案

极目新闻记者 国倩通讯员 余紫滨5月9日,荆州学院举办“荆院楚风”学术论坛讲座第五讲,本次会议采取“线上+线下”相结合的形式举行,长江大学计算机科学学院教授陈琳担任主讲人。学术讲坛会场“什么是人工智能?”——即能够和人一样进行感知、认知、决

AI大模型是否是人工智能的拐点?人工智能还会有哪些突破?

随着计算能力的不断提高和数据规模的扩大,人工智能尤其是深度学习领域取得了显著的进展。近年来,AI大模型,如GPT系列、BERT等,在自然语言处理、计算机视觉等领域取得了令人瞩目的成果,引发了人们对人工智能发展的关注。AI硅基小助手【AI硅基

【AI自动写作12天】【人工智能专栏】人工智能的定义和基本概念

人工智能,简称AI,是指利用计算机模拟人类的智能行为,实现智能化的一种技术和应用。它是信息技术领域的前沿科技,涵盖了机器学习、自然语言处理、计算机视觉等多个领域。人工智能的定义可以从不同角度进行解释。从技术上讲,人工智能是一种通过模拟人类智

几句话给您讲明白人工智能是啥玩意?#人工智能#有ai就...

人工智能是计算机科学领域的一门技术,旨在开发能够模拟人类智能的计算机系统。它的目标是使计算机具备感知、理解学习、推理决策和交互的能力,从而完成各种任务。接下来,让我们详细了解人工智能的感知与理解能力。人工智能致力于让计算机能够感知和理解各种

“人工智能教父”为何反对人工智能:AI会伤害甚至毁灭人类?

近日,谷歌副总裁兼工程研究员、Vector研究所首席科学顾问、多伦多大学名誉教授、伦敦大学学院(UCL)盖茨比计算神经科学中心创立者、2019年计算机界最高荣誉“图灵奖”获得者、被称为The God father of AI(人工智能教父)

什么是人工智能? AI与人工智能

众所周知,刷脸认证、自动驾驶、大数据推送、智能音箱、手术机器人……人工智能被广泛应用于各个领域,由此引起的数据伪造、算法瓶颈、隐私安全、伦理困境等问题也日益凸显。“AI 基础设施建设亟需从自身底层能力增强出发,以内生驱动力突破算法关、数据关

安全负责任地驾驭AI 让人工智能守住技术向善底线

原标题:打造“安全可信、可控易用”大模型 让人工智能守住“技术向善”底线本报记者 宋迎迎 王延斌 王晓夏3秒钟即可生成一段尼山圣境景区门票的直播带货视频,5秒钟就能产出一份景区招商方案及详细流程……在6月26日召开的世界互联网大会数字文明尼

落实特种设备安全主体责任“两个规定”|人人讲安全 人人要安全 新余仙女湖突出“三抓”守牢安全底线

2022年,江西省新余市仙女湖区市场监管局紧紧围绕“讲政治、强监管、促发展、保安全”工作总思路,采取“抓责任落实、抓隐患整改、抓普法宣传”三举措,全区特种设备安全继续保持稳定的良好态势,为经济高质量发展营造良好特种设备安全环境。压实责任,多

人工智能,简称AI,是一种模仿人类思维和行为的智能技术

随着科技的不断发展和进步,人工智能已经成为当今热门的话题之一。人工智能,简称AI,是一种模仿人类思维和行为的智能技术。由于它的出现,科技领域取得了长足的进步,各行各业都开始探索它的应用。在这篇文章中,我们将探讨人工智能的概念、在不同领域的应

人工智能的智能发展之路

人工智能是计算机科学的一个分支,英文缩写为AI(Artificial Intelligence)。人工智能的目的在于尝试使用计算机技术生产出与人类智能相似的智能机器,包括但不仅限于人工智能机器人、语言识别、图像识别等系统。人工智能的智能表现

新一代人工智能迎来新起点 新型催化剂护航能源安全

来源:央视新闻客户端打破传统模式 开创新一代人工智能新起点人工智能,英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术以及应用系统的一门技术科学。“十三五”以来,我国高度重视人工智能的发展,国内科研机构也围绕人工智

AI研习丨人工智能技术在智慧用能中的应用现状与展望

文/贾晓强,陈洪银,李德智,王松岑摘要本文针对智慧用能技术在预测、规划、运行和评价等方面问题,介绍了人工智能技术在用能数据处理分析及综合能源、需求响应、电能替代、车桩互动等新兴用能业务领域中的应用现状,探讨了人工智能技术在用能领域的主要发展

探索AI前沿理念 2023全球人工智能技术大会在杭州开幕

大会开幕式现场。 主办方供图中新网杭州6月10日电(张煜欢)10日,由中国人工智能学会、杭州市人民政府主办的2023全球人工智能技术大会在位于杭州余杭的杭州未来科技城开幕。大会以“交叉、融合、相生、共赢”为主题,在为期两天的活动中,40位中

【科学的温度】AI换脸火爆的背后:如何防止人工智能技术被“恶用”?

中新网12月22日电 (记者 李金磊)数字化3.0时代,人类生活越来越离不开人工智能。如何防止人工智能技术被“恶用”?越来越多的虚拟人是否会取代部分真人职业?如何克服算法歧视,让人工智能实现可知、可信、可控、可用?围绕上述热点问题,清华大学

友情链接

网址导航 SEO域名抢注宝宝起名网妈妈知道币圈王森西点学习网纪梵希奢侈品濮阳新闻头条网九寨沟旅游攻略网新乡新闻头条网阳光电源A股今日宿州喜茶会员日今日铜川靳东影迷网武功山旅游攻略益生菌酸奶网德国旅游网C罗球迷网欧米奇西点学习网
ChatGPT聊天机器人-ChatGPT OpenAI聊天机器人是美国OpenAI研发的聊天机器人程序,ChatGPT是人工智能技术驱动的自然语言处理工具,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流。中国版chatGPT、chatGPT中文网、chatgpt安卓下载、ChatGPT国内手机版、ChatGPT注册教程、ChatGPT免费注册账号、ChatGPT微信小程序。
ChatGPT聊天机器人 wnwz.cn ©2022-2028版权所有