mk体育新闻中心

2024数博会丨“数MK体育,据安全”交流活动在贵阳举办

2024-08-29
浏览次数:
返回列表

  8月28日,由国家数据局主办、贵州省人民政府承办的2024中国国际大数据产业博览会在贵阳开幕。作为本届数博会的重要活动之一,由中国国际大数据产业博览会执委会主办、中国互联网协会承办、贵州省互联网协会协办、贵阳经济技术开发区管理委员会为责任单位的为主题,邀请政府部门领导、业界专家学者、企业代表同台献智,共谋数据安全高质量发展之路。

  贵州省副省长、省公安厅厅长贾利军,国家数据局党组成员、副局长沈竹林,工业和信息化部网络安全管理局相关负责人发表致辞,中国工程院院士、中国互联网协会专家咨询委员会主任邬贺铨作主旨报告。深圳数据交易所总经理古亮,微博COO、新浪移动CEO、新浪AI媒体研究院院长王巍,上海观安信息技术股份有限公司创始人、董事长张照龙,贵州理工学院副院长李少波,联通数字科技有限公司高级副总裁兼数据智能事业部总经理宋雨伦,360数字安全集团总裁胡振泉,亚信安全CTO兼高级副总裁陈奋,蚂蚁集团数据平台与服务部总经理、蚂蚁集团大模型数据负责人张荣华参加活动并参与对话环节。

  贾利军在致辞中指出,随着数据成为新的生产要素和战略资源,数据安全风险与挑战也随之而来,构建完善的数据安全治理体系,提升网络安全防护能力,已成为不可回避的责任与使命。他提出三点倡议:一是坚持创新驱动,加大数据安全领域的技术研发力度,推动区块链、AI等前沿技术的深度融合与创新应用,不断提升数据安全防护的技术水平。二是坚持共建共享,打破信息壁垒,弥合智能鸿沟,共享资源成果,共同构建数据安全治理的良好生态,进一步激发数据安全领域的创新活力。三是坚持打牢基础,强化人才培养力度,输送更mk体育在线官网,多高素质、专业化的优秀人才,为数据安全事业的持续发展提供坚实的人才保障。

  沈竹林在致辞中指出,保障数据安全是激发数据要素价值的内在要求,越是推动发展,越要守住安全的底线。他强调,要探索保障动态安全,提升治理效能。要探索新型治理模式,包容创新发展;要推动高水平开放,深化合作共赢。他表示,国家数据局成立以来,高度重视统筹发展和安全,制定数据安全治理政策,协同推动数据流动基础设施,推动构建有利于数据开发利用安全保障机制,我们愿与各方一道,从治理规则、机制、能力等方面协同发力,共同提升数据安全的治理水平,打造安全、开放、包容的创新发展环境,为推动数字经济发展保驾护航。

  邬贺铨以“AI时代的数据安全”为主题作主旨报告。他指出,生成式大模型基于统计模型和模式识别,局部的上下文关联并不等于全局的合理性和符合自然规律的因果性,而且因长尾场景数据稀少,临界状态训练缺失,导致会出现低级错误。数据可能受到干扰,AI大模型在训练时也会受到无意或恶意的诱导,会使AI误判。关于提高AI可信性的方法,他提出,数据质量控制,使用高质量多样化的数据训练,算法优化和模型评估改进,定期审查和测试,有监督学习建立思维链。迁移学习和反事实数据测试,开展伦理审查,特别是对可能产生重大社会影响的应用进行事先审批,人工干预与审核,帮助用户理解AI的运作方式和潜在风险,用户反馈与持续改进,利用区域截图、放大缩小等预处理发现数据被篡改或AI被滥用。

  会上举办了《智能化攻防前沿应用分析暨大数据安全靶场行业场景共建共享倡议发布》活动。台建玮分享了人工智能赋能网络空间脆弱性评估。贵阳经济技术开发区管委会、航天科工十院、贵州能源集团、广西科学院、云南云上云大数据、重庆信创基地MK体育,、贵州数安汇等有关单位领导嘉宾共同发布了《大数据安全靶场行业场景共建共享倡议》,倡议呼吁更多的企业一起加入,通过共建、共享的模式,实现大数据安全靶场更多行业应用创新场景落地。

  对话互动环节中,深圳数据交易所总经理古亮,微博COO、新浪移动CEO、新浪AI媒体研究院院长王巍,上海观安信息技术股份有限公司创始人、董事长张照龙,贵州理工学院副院长李少波四位嘉宾共同围绕“促进数据跨境有序安全流动,推动高水平对外开放合作”主题开展交流。联通数字科技有限公司高级副总裁兼数据智能事业部总经理宋雨伦,360数字安全集团总裁胡振泉,亚信安全CTO兼高级副总裁陈奋,蚂蚁集团数据平台与服务部总经理、蚂蚁集团大模型数据负责人张荣华四位嘉宾共同围绕“人工智能时代数据安全风险和应对策略”主题开展对话。

  古亮指出,安全这个课题永远是一个攻与防的概念,要不断的积累和调整安全的策略,主动探测和识别安全问题,提升数据安全高效流通能力,面向国家和行业发展的需要,逐步筑牢整个数据交易流通的安全体系。数据跨境作为促进国际经贸合作的底层基础,随着“十四五”规划、“一带一路”和粤港澳大湾区建设等政策红利的逐步释放,内地与国际的数据业务合作必将迎来更大的发展空间。

  王巍指出,未来几年的数据跨境流动将呈现三大趋势:一是数据经济全球化的进程将不断提速。二是数据跨境流动可能促成新的贸易壁垒。“我们可以看到全球范围内都在密集出台和调整数据安全与跨境流动相关的法律法规,基本都是为了维护本国(或地区)利益”。三是数据安全作为数据要素化的基础保障,它的重要性与技术水平将在被不断挑战的过程中稳步提升。数据跨境流动的安全、有序和可控依赖于技术保障,我们应该保持对于可信计算、同态加密、联邦学习等新技术的研究和应用。

  张照龙指出,在数字化转型加速的今天,数据跨境流动的安全问题已成为全球关注的焦点。面对复杂多变的国际环境和技术挑战,观安信息始终致力于技术创新,特别是在数据跨境安全领域。最新研发的智能风控系统,通过大数据分析以及AI算法,实现了对跨境数据流动的全链条监控与智能预警,该系统不仅能显著提升数据传输的安全性,还能根据运营商、政府等不同行业的特定需求,定制化设计数据保护方案,确保每一环节都符合行业安全标准,助力企业在全球化进程中稳健前行。

  李少波指出,未来数据跨境流动正朝着更加安全、合规的方向发展。通过采用数据分级分类策略,将敏感数据和非敏感数据分开处理,并使用先进的加密技术、差分隐私技术,确保敏感数据在跨境传输中的安全性和隐私合规性。通过建立符合国际标准的法规框架,确保数据在跨境流动中依然受到原始国家的法律保护,同时与其他国家协调制定互认机制,平衡数据主权与数据自由流动之间的关系。作为高校将为社会贡献科技创新成果,培养复合型高层次人才,为数字经济的发展提供人才与智力支撑。

  宋雨伦指出,中国联通自主研发了基于AI大模型技术的重要数据资产识别平台,实现了重要数据资产的自动化、智能化识别。针对海量数据、尤其是复杂的非结构化数据的挑战,以及人工审核在准确性、覆盖度上的局限性,提供了高效解决方案,显著降低了人力成本,加速了业务处理流程,并有效减轻了数据泄露的风险隐患。

  胡振泉表示,大模型数据安全风险主要源于两个方面:一是数据收集和处理阶段的不规范操作,可能导致隐私数据的泄露;二是大模型的内部机制像一个“黑匣子”,生成的内容难以预测,增加了隐私泄露的可能性。要解决这些问题,需要对大模型训练数据的全生命周期进行严格的监控和管理,对数据语料进行更严格的智能治理。其次是“以模制模”,通过构建专用的、规模较小的专业大模型,对大模型的输入输出内容进行双向安全监测。

  陈奋认为,大模型是训练数据中蕴含知识的抽象体现。一方面,数据安全直接影响模型安全,建议对训练数据和微调数据进行数字签名和完整性保护,防止被中间人恶意篡改,同时进行异常数据检测与过滤,最大程度降低数据投毒风险。另一方面,大模型又成为了数据的新型暴露面,模型安全影响数据安全,建议将大模型作为数据的延伸,进行同等程度的分类、分级安全防护,对模型的存储、访问进行适当的隔离与限制。

  张荣华指出,未来十几年将是大模型硬件普及、模型性能和泛化能力持续提升的时期,同时也是生态系统逐渐完善的十几年。在这一过程中,将会有越来越多的爆款应用诞生,服务于To B(企业级)和To C(消费者级)的各种场景。张荣华强调,在大模型的数据处理、模型预训练、模型后训练以及模型推理等全生命周期中,数据安全都具有重要的影响且已成为大模型训练及应用领域的关键课题,是大模型能否深入和广泛应用的前置条件。

  本次活动由中国互联网协会副理事长黄澄清、中国互联网协会副秘书长裴玮主持,共500余人参会,得到了与会嘉宾的一致好评。中国互联网协会将继续广泛开展相关活动,为推动数据安全产业高质量发展贡献力量。

搜索