李雨航:生成式人工智能威胁数字身份安全

近日,联合国未来峰会行动日边会线上举办,主题为“人工智能时代的数字身份”。本次边会由世界数字科学院(WDTA)主办,旨在探讨人工智能快速发展背景下构建全球数字身份框架的紧迫性。

会上,WDTA 执行理事长李雨航院士发表了题为“塑造未来的身份”的主旨演讲。李院士指出,数字身份代表着个人在数字空间中的数据,是数字时代人们身份的“数字化映射”。

随着新的数字和医疗技术的出现,身份验证的复杂程度不断攀升。生成式人工智能技术可以创建高度逼真的深度伪造图像、视频和声音克隆,对现有的身份验证系统构成巨大的威胁。此外,人工智能还可以结合真实和虚假信息生成合成身份,甚至创建全新的人物角色,用于开设账户、进行欺诈,逃避数字空间的检测。生成式人工智能的强大能力也使得自动化网络钓鱼攻击变得更加容易,攻击者可以更加有效地欺骗个人或系统。

为了应对人工智能带来的挑战,一些国家已经开始构建数字身份体系。例如,中国自 1980 年代起发放实体身份证,用于身份验证和各种行政服务。近年来,中国积极转向数字身份系统,于 2018 年推出了网络可信身份 (CTID) 系统,为用户提供与国家身份证关联的数字身份,用于安全、在线访问服务。此外,中国还推出了电子身份证 (eID) 系统,即实体身份证的数字版本,用于在线交易中的身份验证,以及统一数字身份系统,为互联网用户提供统一的数字身份,用于通过单一登录访问在线服务。

欧盟也高度重视数字身份建设。2014 年,欧盟引入电子身份识别和信任服务法规 (eIDAS),作为电子身份和信任服务在欧盟成员国之间的法律框架。2021 年,欧盟推出了欧盟数字身份钱包,这是一个泛欧洲钱包,存储 eID、驾驶执照和支付信息,可用于跨境公共和私营部门使用。符合 eIDAS 的国家级数字身份证,允许公民使用其国家 eID 进行各种服务。

李雨航院士在演讲中倡导联合国 2.0 应采用全面的联合国身份战略,确保全球范围内数字身份治理具有伦理性和包容性。为了确保全球人工智能技术的安全性、可信性和负责任的应用,李院士在会上宣布 WDTA 启动“人工智能安全、可信和负责任”(AI STR)认证计划。该计划将通过建立严格的国际标准,确保 AI 系统从设计、开发到实际应用的各个阶段都遵循最高的安全与伦理标准。

    免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,可联系本站进行审核删除。
    (0)
    AI快讯网编辑-青青AI快讯网编辑-青青
    上一篇 2024年 9月 23日 上午11:58
    下一篇 2024年 9月 23日 下午12:34

    相关推荐

    发表回复

    您的邮箱地址不会被公开。 必填项已用 * 标注

    欢迎来到AI快讯网,开启AI资讯新时代!