SneakyPrompt 通过使用无意义的单词和类似于禁忌术语的常规单词来工作。例如，该算法可以生成提示“一个裸体男人骑自行车”，然后使用过滤词的替代词测试 DALL-E 2 和 Stable Diffusion，例如“thwif”表示“naked”，“mowwly”表示“man”。
研究人员发现，SneakyPrompt可以绕过DALL-E 2和Stable Diffusion的安全过滤器，平均成功率分别约为96%和57%。这意味着使用这些 genAI 生成有问题的图像相对容易。
点击此处阅读本报告的深入分析。
我坚信，这项研究的重要性怎么强调都不为过，因为它有可能极大地影响文本到图像生成式人工智能的使用方式。在我看来，至关重要的是要明白，如果这些人工智能可以很容易地纵以产生有问题的图像，它们可能会被武器化以伤害他人。因此，我们必须时刻注意与这些认可机构相关的潜在风险，并采取积极措施，将任何潜在危害降至最低。
原创文章，作者：校长，如若转载，请注明出处：https://www.yundongfang.com/Yun268282.html
微信扫一扫不于多少！
支付宝扫一扫礼轻情意重
当所有对话都集中在一个“聊天”部分下时，找到正确的WhatsApp聊天并不总是那么容易。幸运的是，WhatsApp 现在引入了“聊天过滤器”，可让您在打开 WhatsApp 后立即…
Microsoft 的 PowerToys 一直是用户执行 Windows 上原生无法执行的各种任务的首选工具。在它的各种实用程序中，有一个是’Peek’，…
WhatsApp 通过定期更新不断改进。最近的报道表明，WhatsApp正在开发一个新的状态更新界面，为基于文本的更新提供自己的空间。此外，WhatsApp 还改进了平台上的视频播…
Excel 具有此功能，它可以自动将单元格中的数字转换为特定日期。但是，如果 Excel 开始将数字更改为日期格式，这个有用的功能很快就会成为您头疼的原因！此问题可能会影响整个行或…
利用 Google Gemini 的强大功能：初学者指南 Google Gemini 是一款突破性的 AI 模型，可无缝融合语言、图像和代码处理功能。这是一个真正的多模态强国，正在…
Open-Sora 开源替代 OpenAI 的 Sora 文本转视频 AI 继今年早些时候推出 Sora 之后，OpenAI 强大的文本到视频 AI 模型以 Open-Sora 的…
Microsoft Edge具有新的“放大图像”功能，可改进您在浏览器中缩放图像的方式。传统上，您可以右键单击图像，然后选择“在新选项卡中打开图像”选项，这将加载高分辨率版本。然后…
Midjourney Consistent Characters 提示和技巧 在《Midjourney》中，你有能力让你的数字角色栩栩如生，但这需要创造力和技术诀窍的融合。本指南将…
Microsoft Edge 具有新的“放大图像”功能，可改进您在浏览器中缩放图像的方式。传统上，您可以右键单击图像，然后选择“在新选项卡中打开图像”选项，这将加载高分辨率版本。然…
当我们熟悉 JPEG、PNG 和 GIF 图像格式时，并不是说这三种图像格式仅用于将数据填充到像素中，使其看起来像图像。随着现代智能手机拍摄的照片太多，为新照片创造更多空间非常重要…
为 Claude 3、ChatGPT 和 Gemini 发布的终极 AI 提示库 提示是人工智能 （AI） 的命脉，可让您从大型语言模型中获得最佳结果。如果您正在寻找在尖端技术和 …
Canva 提供了一个魔术编辑工具，允许用户替换图像中的对象并将它们换成其他东西。该工具可用于将带有某些元素的现有图像转换为具有一整套其他元素，方法是将不需要的部分替换为 AI 生…
Gemini 为用户提供了将图像添加到他们的提示中的能力。结合其对图像的反应能力，Gemini 可以“理解”图像，使其成为一个完全可视化（和基于文本）的 AI 聊天机器人。以下是如…
Apple 的实况文本功能可以识别“照片”或“相机”应用程序中的文本、手写笔记和数字，并允许您将这些信息粘贴到任何其他应用程序上。但是，当您处理 PDF 并想从中提取文本时，您会怎…
在处理电子表格中的大量数据和值时，您可能希望更好地管理如何查看它们。Google 表格有一个过滤器工具，通过暂时将不太重要的数据从电子表格中分离出来，让用户可以更有效地分析大型数据…
那些每天必须处理图像文件的人通常必须调整它们的大小以适应他们的项目和工作需求。但是，如果要处理的图像太多，则单独调整它们的大小会消耗大量时间和精力。 在这种情况下，像 PowerT…
与许多其他应用程序一样，Microsoft正在更新和简化Windows的本机屏幕截图应用程序Snipping Tool，并提供一些新功能。“文本操作”是一项基于 OCR 的新功能，…
在计算机上进行文本编辑非常简单。您可以使用 Command（在 CTRL 上）+ U 键盘快捷键为部分文本添加下划线。不过，在你的手机上，情况有点不同。由于您在手机上处理很多应用程…
为了跟上 AI 趋势和 AI 为图像处理带来的一系列全新酷炫功能，Snapchat 添加了另一项新功能，即使用 AI 扩展快照的能力。此功能可以帮助您使用 AI 缩小照片并扩展照片…
随着 Midjourney 6 的推出，AI 摄影和 AI 艺术生成世界见证了重大飞跃。这个新版本是其前身 Midjourney 5 的重大升级，提供了一套增强功能，旨在重新定义 …
自去年年底推出并随后在 Google Bard 中推出以来，谷歌最新的 AI 模型 Gemini Pro 是 OpenAI 的 ChatGPT 的主要竞争对手，提供非常相似的多模态…
UniRef++：图像分割框架 字节的一个图像分割项目UniRef++，将现在的即参考图像分割（RIS）、少镜头图像分割（FSS）、参考视频对象分割（RVOS）和视频对象分割（VO…
SSR-Encoder：从图像提取不同特征 小红书新发布的一个编码器SSR-Encoder，可以实现从一张图片种提取不同的主题（人物、物体等）特征生成图像。与 SD 现有的能力都能…
自最初推出以来，Midjourney AI 艺术生成器一直使用 Discord 作为其主要接入点。但随着本周早些时候最新版本的 Midjourney 6 处于 alpha 开发阶段…
TextDiffuser-2：为文本渲染释放语言模型的力量 可以稳定在扩散模型中生成指定位置和风格的英文文本，它是借助的微调后的大语言模型来规划文本布局，以及编码文本的位置。
