随着生成式人工智能技术的爆发式增长，安全与伦理问题已成为全球科技界关注的焦点。技术的双刃剑效应在近期的一系列社会调查中得到了充分印证，公众对于潜在风险的敏感度正在显著上升，这为全球 AI 治理提出了新的课题。
根据德国民调机构 Dimap 发布的最新调查，超过 90% 的德国成年人担心人工智能被用于深度伪造。该调查由德国第一电视台委托进行，于 3 月 30 日至 31 日开展，共涉及 1316 名受访者。结果显示，53% 的受访者认为 AI 生成深度伪造内容的风险“非常高”，另有 38% 认为风险“高”。
受访者的担忧主要集中在几个方面，包括难以区分 AI 生成的假新闻以及工作岗位被 AI 取代的问题。展望未来五年，38% 的受访者认为 AI 将改善他们的生活，而 45% 持相反观点，认为 AI 会让生活变得更糟。特别是 18 至 34 岁的人群中，有 51% 的人认为 AI 可以改善他们的生活。
深度伪造是指利用人工智能技术合成和更改视频、图像或音频，以创建高度逼真的虚假内容。近年来，随着大模型技术的快速发展，利用 AI 进行换脸、变声及生成深度伪造内容的案例频发，给社会带来诸多挑战。目前，许多国家在人工智能方面仍缺乏足够的监管。
早期调查显示，四分之一的美国人在过去 12 个月内收到过深度伪造语音电话。另有 24% 的人表示，他们难以在电话中可靠地区分 AI 语音与真人语音。平均而言，六个市场的消费者每周收到 7.4 个垃圾电话，其中法国垃圾电话数量最多，英国受害者的经济损失最为严重。
随着技术进步，诈骗者模仿他人声音的成本和难度显著降低，使得深度伪造诈骗日益猖獗。一旦受害者信以为真，可能会遭受金融诈骗或身份盗窃。
核心要点：
🔍 超过 90% 的德国人担心 AI 被用于深度伪造，其中 53% 认为风险“非常高”。
💼 45% 的人认为 AI 会让生活变得更糟，而 38% 看到了 AI 未来的积极影响。
📞 四分之一的美国人收到过深度伪造语音电话，诈骗成本显著下降。
面对这一严峻形势，单纯的技术迭代已不足以应对挑战。建立跨国家的监管框架、推广数字水印技术以及提升公众的数字素养，将是构建可信 AI 生态的关键步骤。产业界需在追求效率的同时，将安全对齐置于更高优先级，以平衡创新发展与社会责任。
