上周，Google发布了一种实验性Gemini 2.0 Flash模型，该模型本地生成图像。多亏了Gemini 2.0 Flash的本机多模式功能，您可以在对话上编辑图像，从而在多代人中产生高度一致的图像。我最近测试了双子座的本地图像生成功能，并因其强大功能而感到惊讶。
现在，Redditor展示了实验性Gemini 2.0 Flash模型擅长从图像中删除水印。实际上，双子座能够从受版权保护的图像中完全删除水印，包括来自Shutterstock和Getty Images的图像，这是使用水印来保护受版权保护内容的两个最大的库存图像提供商。
毫不奇怪，这一发展引起了人们对版权法的严重关注。在一份声明中 TechCrunch，Google发言人提到：“使用Google的生成AI工具从事版权侵权是违反了我们的服务条款。与所有实验版本一样，我们正在密切监视并聆听开发人员的反馈。”
重要的是要注意，Gemini 2.0的图像生成模型当前处于“实验”阶段，并且在Google的AI工作室中可用，而不是在面向消费者的Gemini网站或应用程序上。 AI Studio的目的是为开发人员测试模型，探索功能并向Google提供反馈。但是，普通用户也可以使用它而无需任何限制。
为了测试本机图像生成模型，我在AI工作室上上传了带有水印的Shutterstock图像，并要求该模型删除它们。在第一次尝试中，它无法删除水印，但是在再次运行提示后，它在不引起任何怀疑的情况下擦除了它们。我也是 用我的自定义水印上传了图像，Google的模型再次完成了一项完美的工作。
似乎Google到目前为止尚未解决该问题。去年，在双子座拒绝制作白人形象之后，Google被迫禁用图像产生的人。现在，为避免类似的强烈反对，Google可能会增加更严格的安全护栏，以防止在更广泛的推出之前侵犯版权。
双子座本地图像生成的潜在滥用
除了去除水印外，实验性的双子座模型还可以做几件容易滥用的事情。 Scaile AI的研究人员Riley Goodside测试了AI模型的漏洞，在X上分享了一篇文章，以显示该模型如何通过生成现实场景来操纵图像。
在下图中，您可以看到双子座多么巧妙地改变了背景，并完美地遵循了操纵图像的说明。
另一位以越狱AI模型闻名的AI安全研究人员Elder_plinius在X上分享了一篇文章，证明了如何如何 简单的标点符号 在提示中 旁路安全限制。在您在下面看到的推文中，双子座最初拒绝了女人的外表。
随着AI模型随着时间的推移而迅速获得功能，公司在发布之前进行彻底的安全测试至关重要。我们已经知道，人类的宪法分类器在一周内使用普遍的越狱，绕开了所有安全措施。这表明 AI模型远非万无一失。他们将需要范围内的整个行业协作来减轻越狱技术并防止有害世代。