Emma McGowan 2024年1月30日

在AI生成的泰勒斯威夫特色情图像在X平台前Twitter走红之后，我们不禁思考：这对AI的未来意味著什么？

最近，一个不安的事件引发注意，AI生成的泰勒斯威夫特露骨图片在X平台上迅速传播，显示了AI能力的一面阴暗面。这些图片据信是使用Microsoft Designer创建的，吸引了广泛的关注，并突显了AI生成虚假色情内容日益增长的挑战。

随著这些图片在平台上的快速扩散，事件不仅引发了粉丝和隐私倡导者的愤慨，也提出了有关AI在媒体创作中的伦理使用的关键问题。

Avast威胁情报总监Michal Salt就这一时事提供了丰富的知识和专业见解。他对技术、安全性和伦理的交集保持敏锐的观察，并对AI生成内容的影响提供了细致的看法。

在接下来的部分中，我们深入探讨他的见解，探讨图像操纵的历史平行，AI能力带来的伦理困境，以及在日益以AI驱动的世界中，对数字信任和安全的更广泛影响。

虚假的色情图像并不是新问题

Salt将当前AI生成逼真图像的能力与过去使用Photoshop的情况相比较。正如Photoshop在几年前彻底改变了图像操纵方式，AI现在让创建现实图像变得更加容易。然而，操纵图像的概念并不新颖；AI只是成为这一持续故事中的最新工具。

“这在某种程度上只是另一种照片编辑软件，”他解释说，强调操纵图像的概念已经成为一个担忧超过十年。现在的主要区别在于AI技术所带来的便利性和可获得性。这一转变提出了重要的问题，即社会如何适应和规范这些新工具，这些工具使得创建现实图像比以往任何时候都更加便利。

AI与露骨内容的伦理困境

最迫切的问题之一是使用AI生成露骨图像的伦理含义，特别是未经特定个人同意的情况下。虽然生成通用的裸体图片可能不会引发太多伦理问题，但真正的问题在于能如此轻易地创建可识别人员的露骨图像。

“对于我来说，AI生成的色情图像本身可能没有什么根本上的错误或伦理问题，”Salt说。“但伦理问题在于，你可以相对轻松地生成一张具有已知或特定面孔的图片。”

这一能力不仅限于像泰勒斯威夫特这样的名人，还可能扩展到任何人，这突显了对于伦理准则和立法的迫切需求：虽然所谓的“报复色情”或非自愿分享裸体在48个州是非法的，而AI生成的深伪色情目前仅在10个州被禁止。这一明显的差异强调了立法需要跟上技术的步伐。

AI公司如何防止深伪色情图像的生成？

或许因为接触生成式AI是个相对较新的现象，对于创建未经主体同意的露骨内容几乎没有防范措施。然而，根据Salt的说法，对AI公司来说，实施相关措施并不会太过困难：仅仅是不允许生成特定人员的图像，或者使用客户提交的图像作为素材，就能为绝大多数人提供足够的障碍。

“当然，会有人能打破这些限制，强迫模型做它不应该做的事情，”Salt说。“对我来说，现阶段几乎无法避免这一点你只能让它变得更难。我想表达的观点是，提供这些服务的公司应该竭尽所能避免这种情况的发生。”

还有可能有人创建自己的色情生成模型，而不设定任何限制。然而Salt指出，尽管这样做是可能的，但需要大量的技术知识和计算能力。

“并不是每个人都有能力自己创建AI来生成裸体图像，”Salt说。“所以这更像是使用Photoshop，你需要具备一定的技能才能做到这一点。”

Salt将当前的AI发展状态与安全行业的演变作了比较。他观察到，我们正见证安全行业“以AI重新起步”。这一比较强调了将AI发展视为持续过程的重要性，识别和修复漏洞是成熟技术的关键。

在X平台上生成的泰勒斯威夫特图片强调了负责任使用AI的重要性。随著AI不断进步，在技术能力、伦理考量和安全措施之间保持平衡将至关重要。通过向像Michal Salt这样的专家学习，并反思过去的挑战，我们可以以更具知识和谨慎的方式应对这一复杂的环境。