Emma McGowan 2024年1月30日

随著由 AI 生成的泰勒斯威夫特的色情图片在 X 平台上疯传，我们不禁要问：这对 AI 的未来意味著什么？

最近，一些 AI 生成的 泰勒斯威夫特的明确图片 在 X前身为 Twitter引发了广泛关注，突显了 AI 能力的阴暗面。这些图片据信是使用微软设计工具制作的，对于 AI 所产生的假色情图片的挑战愈加明显。

随著这些图片在平台上迅速传播，这一事件不仅引发了粉丝和隐私维权人士的愤怒，还提出了关于在媒体创作中伦理使用 AI 的重大问题。

Avast 威胁情报总监 Michal Salt 带著丰富的知识和专业，为这一重要话题提供了独到的见解。Salt 对科技、安全和伦理的交集有深刻的理解，为 AI 生成内容的影响提供了细致的看法。

在接下来的部分中，让我们深入探讨他的见解，包括影像操控的历史类比、AI 能力所带来的伦理困境，以及在越来越依赖 AI 的世界中，这些问题对于数位信任和安全的更广泛影响。

假色情不是新问题

Salt 将 AI 当前生成逼真图像的能力与过去的 Photoshop 进行比较。正如 Photoshop 多年前颠覆了图像处理一样，AI 现在使创造现实图像变得更加简单。然而，操控图片的概念并不新鲜；AI 只是成为了这一持续 saga 中最新的工具。

“在某种程度上，这只是另一款照片编辑软体，”他解释道，强调操控图片的概念已经存在十多年。如今的主要区别在于 AI 技术所带来的便利性和可及性。这一变化提出了重要问题：社会如何适应和规范这些新工具，这些工具使得创造现实图片比以往任何时候都更加容易。

AI 与色情内容的伦理困境

其中一个最迫切的担忧是，使用 AI 生成特定个体的明确图片的伦理影响，尤其是在未经他们同意的情况下。尽管生成一般的裸体图片可能不会引发太多伦理问题，但真正的问题在于轻松创造可辨识人的性暗示图片。

“AI 生成的色情图片本身可能并没有什么固有的错误或伦理问题，”Salt 说。“但对我而言，伦理问题在于，你可以相对容易地生成一张带有已知或特定面孔的图片。”

这一能力不仅限于像泰勒斯威夫特这样的名人，还可能适用于任何人，强调了制定伦理指导方针和法律的必要性。虽然所谓的“报复色情”或非自愿分享裸体图片在美国 48 个州是 非法的，而 AI 生成的深伪色情目前只在 10 个州禁止。这一明显的差异凸显了法律需要跟上技术的步伐。

AI 公司如何防止深伪色情的创造？

也许因为生成 AI 的访问权限是一种相对较新的现象，目前在未经主体同意的情况下创建明确内容的防范措施相对较少。然而，Salt 认为，对于 AI 公司来说，实施这些措施并不会太困难：例如，不允许生成特定人员的图片，或不使用客户提交的图片作为素材，就能为绝大多数人提供足够的屏障。

“当然，一些人仍然能够突破这些限制，强迫模型做一些它本不应该做的事，”Salt 说。“就我所见，目前几乎无法完全避免这一点我们只能使其更难。我想表达的观点是，提供这些服务的公司应该更加努力避免这种情况。”

还有一种可能性，即有人创建自己的色情生成模型，没有任何限制。然而，Salt 指出，尽管这是可能的，但需要 大量 的技术知识和 大量 的计算能力来实现。

“能够自己创建 AI 来生成裸体图片的人并不多，”Salt 说。“因此，这更像是使用 Photoshop，你需要具备一定的技能水平才能做到这一点。”

Salt 将 AI 发展的当前状态与安全行业的演变进行了比较。他观察到，我们正在目睹安全行业在 AI 上的“重新开始”。这一比较强调了将 AI 发展视为一个持续过程的重要性，在这一过程中识别和修复漏洞对于技术的成熟至关重要。

在 X 上流传的泰勒斯威夫特的 AI 生成图片突显了负责任地使用 AI 的重要性。随著 AI 持续进步，平衡技术能力与伦理考量和安全措施将具有关键意义。透过学习像 Michal Salt 这样的专家的见解并反思以往的挑战，我们可以以更具知识性和谨慎的方式来驾驭这一复杂的领域。