泰勒斯威夫特的深伪色情视频并不新鲜，但这并不意味着我们不应该对此感到担忧。

艾玛麦高恩 2024年1月30日

在泰勒斯威夫特的AI生成色情图片于X前身为Twitter走红后，我们不禁要问：这对AI的未来意味著什么？

最近，一些AI生成的泰勒斯威夫特露骨图像在X平台上迅速传播，展示了AI能力的阴暗面。这些图片据信是用Microsoft Designer创建的，迅速引起广泛关注，突显了AI生成虚假色情内容日益严峻的挑战。

随著这些图片在平台上快速传播，此事件不仅引发了粉丝和隐私倡导者的愤慨，还提出了有关AI在媒体创作中伦理使用的关键问题。

Avast威胁情报总监米哈尔萨拉特拥有丰富的知识和专业经验，为此次重要讨论提供了深刻的见解。他密切关注技术、安全和伦理的交汇处，提供了关于AI生成内容影响的细致观点。

在接下来的部分中，我们将深入探讨他的见解，探索影像操控的历史平行、AI能力所带来的伦理困境，以及在我们日益以AI驱动的世界中对数字信任和安全的广泛影响。

假色情并不是新问题

萨拉特将当前AI生成逼真图片的能力与过去Photoshop的使用进行了对比。正如Photoshop在几年前彻底改变了图像编辑方式，现在AI使得创建现实主义图像变得更加简单。然而，操控图像的概念并不新鲜；AI只是这场持续斗争中的最新工具。

“在某种程度上，这只是一种不同的照片编辑软件，”他解释说，强调操控图像的问题已经存在十多年了。现在的主要区别在于AI技术带来的便利性和可获得性。这一变化提出了有关社会如何适应和规范这些新工具的重大问题，因为这些工具让创建现实主义图像变得比以往任何时候都要简单。

当前最迫切的问题之一是使用AI生成露骨图像，特别是没有特定个人同意的情况下的伦理影响。虽然生成通用的裸体图片可能不会引发太多伦理问题，但实际的问题出在对可识别人物生成露骨图片的简便性上。

“AI生成色情作品本身可能并没有什么内在的错误或伦理问题，”萨拉特说。“但对我来说，伦理困境在于，你可以相对轻易地生成一张带有已知或特定面孔的图片。”

这一能力不仅限于像泰勒斯威夫特这样的名人，而是可能扩展到任何人，强调了需要伦理指南和立法的重要性：虽然所谓的“复仇色情”即未经同意分享裸体图片在48个州是非法的，而目前AI生成的深伪色情仅在10个州被禁止，这一明显的差异凸显了立法在技术发展面前的滞后。

由于接触生成性AI仍然是一个相对新的现象，目前对生成未经当事人同意的露骨内容的防范措施相对缺乏。然而，萨拉特认为，对AI公司来说，实施这些措施并不是特别困难：简单地不允许针对特定人物或使用顾客提交的图片作为素材的图片生成，就会对大多数人提供足够的屏障。

“当然，有些人会有能力打破这些限制，让模型做它本不应该做的事情，”萨拉特说。“我认为目前几乎不可能避免这一点你只能让它变得更难。我想表达的观点是，提供这些服务的公司应该更加努力地避免这种情况。”

泰勒斯威夫特的深伪色情视频并不新鲜，但这并不意味着我们不应该对此感到担忧。

他还提到，有人可能会创建没有任何限制的色情生成模型。然而，萨拉特强调，即使这是可能的，这需要大量的技术知识和大量的计算能力。

“可以创建一个能生成裸体图片的AI的人并不多，”萨拉特说。“所以这更像是使用Photoshop，你需要有一定的技能才能做到这一点。”

萨拉特将当前AI发展的状态与安全行业的演变进行了对比。他观察到，我们正在目睹安全行业“重新开始使用AI”。这一比较突显了将AI发展视为一个持续过程的重要性，其中识别和修补漏洞是成熟技术的关键。

泰勒斯威夫特在X平台上的AI生成图片流露出负责任使用AI的重要性。随著AI的不断进步，平衡技术能力与伦理考量及安全措施将至关重要。通过向米哈尔萨拉特等专家学习并反思过去的挑战，我们可以以更具知识和谨慎的方式导航这一复杂的领域。