近日，澳大利亚女性组织Collective Shout的行动总监梅琳达·坦卡德·里斯特（Melinda Tankard Reist）向《每日电讯报》透露，她近期成为埃隆·马斯克旗下人工智能工具Grok的受害者，其个人肖像被利用进行深度换脸，令她感到“被侵犯”和“无力”。此事再度将AI图像生成工具的潜在危害推向公众视野，并引发了关于禁止该类工具的呼声。
据了解，坦卡德·里斯特此次成为目标，与其长期以来对Grok潜在危害的公开发声不无关系。在过去的几周里，她已两次遭遇X平台（原Twitter）用户利用Grok技术制造的深度换脸攻击。
坦卡德·里斯特在接受采访时表示：“当我看到有人花费时间和精力，指示Grok将我的形象替换成身穿比基尼的样子时，我感到无比震惊，一股本能的恐惧油然而生。我的身份信息被盗用，个人隐私遭到侵犯，我对自己肖像的控制权荡然无存。”这番话语直观地反映了AI技术在滥用面前，对个人尊严和心理造成的冲击。
坦卡德·里斯特强调，她一直致力于反对深度换脸技术及其他网络平台对女性造成的伤害。她此前曾向X平台举报过相关图像和违规账户，然而，这些内容并未被及时删除，这使得她对平台的内容审核机制和责任担当产生了质疑。她对此呼吁，监管机构，包括澳大利亚的网络安全专员，应立即采取行动，禁止Grok等AI图像生成技术的滥用。
她 further 指出：“这个工具的本质是一台‘侵犯机器’，年轻女性的形象很容易被转化为色情甚至更加露骨的图像。它必须被严格禁止。我尤其担心，越来越多的男学生可能会利用或已经利用Grok，将其作为欺凌和侵害女性同学以及女教师的工具。”这种担忧并非空穴来风，AI技术的非匿名性和易传播性，确实为网络欺凌和性骚扰提供了新的可能，并加剧了其隐蔽性和破坏性。
值得注意的是，Collective Shout组织成立于2009年，其自我定位为“一场草根运动，致力于反对媒体、广告和流行文化中对女性的物化。”该组织曾于2025年因成功游说数字游戏平台Steam和Itch.io下架数百款含有R18（十八禁）内容的游戏而声名大噪。而埃隆·马斯克本人也曾公开批评过该组织，并支持过反对该组织的请愿活动。这种背景下，此次事件也可能被视为双方在AI伦理和内容监管领域的一场新较量。
此次事件暴露了当下AI技术发展与伦理规范之间的巨大鸿沟。一方面，AI技术展现出强大的创造力和效率，另一方面，其潜在的滥用风险也日益凸显。深度换脸等技术，一旦落入不法分子手中，不仅会侵犯个人隐私和尊严，还可能被用于诽谤、欺诈甚至制造虚假信息，对社会稳定造成威胁。因此，如何平衡技术发展与风险控制，建立有效的法律法规和技术壁垒，是当前亟待解决的挑战。公众、科技公司、监管机构以及社会组织，都需要共同努力，才能为AI技术的健康发展保驾护航，避免其成为“侵犯机器”。
