Stable Diffusion【进阶篇】：Inpainting完整指南

Stable Diffusion【进阶篇】：Inpainting完整指南

一. Inpainting的基本示例

在图生图中通过如下设置生成图片：

• 大模型：Realistic Vision V5.1
• 正向提示词：full body, audrey hepburn, black hair, 18 years old, 1940’s, photoshoot, Fujifilm XT3 Viltrox, posing, instagram, happy smile, stand up, ultra detailed, sharp focus, elegant, jewels, urban background, rim lighting, short beige dress, beige kitten-heels, black gloves, pearl tiara, pearls necklace, brilliant pearl earrings, hdr, high contrast, sunlight, shadows, skin pore, pretty, beautiful, feminine, loving, in love, adorable , fashion, chic, excellence, leg, dress
• 反向提示词：ugly, deformed, nsfw, disfigured
• CFG Scale：7
• 图片宽高：512*768

会生成一些质量较好的图像。但在全身图像中，会经常出现脸部不太正确。

下面我们使用图生图的局部重绘(Inpainting)来修复一下。图生图相关参数设置如下：

注意：重绘区域选择“仅蒙版区域”，因为我们只想要重新生成被遮罩的区域。

点击【生成】按钮，得到修复后的照片如下（原文中的修复图片）。

生成的照片效果如下（图片进行了高清处理）。

图片修复机制：修复与图像到图像类似，在去噪之前将随机噪声添加到潜在空间中的整个图像中。但随机噪声仅添加到修复中的遮蔽区域。

二. Inpainting的相关参数设置

重绘强度（Denoising strength）

重绘强度是修复中最重要的设置。它控制遮罩区域应改变的程度。

作为缩略图的规则，太高的值会导致修复结果与图像的其余部分不一致。值太低可能会导致结果模糊。将重绘强度设置为0.5是一个很好的选择。

重绘区域：整个图片与仅蒙版区域

为什么Stable Diffusion无法正确生成脸部？就是因为人脸太小了。Stable Diffusion v1 的原始分辨率为 512×512 像素。在一个比较低的像素画布上，绘制一个全身图，脸部分配到的像素不够。

仅蒙版区域选项旨在解决此问题。它裁剪掉遮罩区域并使用该区域的整个分辨率。然后它将结果缩放回其原始大小。这样就解决了绘制小脸或物体的问题。

整个图片选项按原样获取输入图片和蒙版，无需裁剪。

仅蒙版区域选项最常见的用例是重新生成更精细的细节面部。这通常会牺牲图像其余部分的一致性，因为您会裁剪掉遮罩区域以进行修复。

如果全局一致性很重要，例如修复背景中的瑕疵，请使用整个图片选项。

修复整个图片并不能修复脸部。

另一方面，在重新生成部分背景时应该修复整个图片。使用仅蒙版区域选项可能会产生如下图所示的伪像。

蒙版区域内容处理

蒙版内容选项指定是否要在修复之前更改蒙版区域的图像。

• 填充(Fill)：替换为遮罩区域的平均颜色。
• 原版(Original)：没有变化。
• 潜空间噪声(Latent noise)：仅随机噪声。
• 空白潜空间(Latent nothing): 无颜色或噪声（全零潜像）

原版是蒙版区域内容处理中最常见的选择。当您想要与原始图像完全不同的东西时，您可能需要使用填充。潜空间噪音和空白潜空间生成的图片常常无法使用。

提示词

使用修复的最有效方法之一是更改遮罩区域的内容。例如，使用生成一致面孔的技术，将“奥黛丽·赫本”替换为安娜·德·阿玛斯（艾玛·沃特森：0.5）、丽莎·索贝拉诺。

Ana de Armas, (emma watson:0.5), Liza Soberano

三. Inpainting模型

在SD大模型中，有一种专门为修复而设计的SD修复模型。该修复模型与标准模型略有不同。它有 5 个额外的 UNet 输入通道，代表掩模和掩模图像。

修复小补丁时通常不需要使用修复模型。它们用于修复大面积区域。由于更改大模型可能会极大地影响图片风格，因此您应该使用与原始模型相匹配的修复模型。

修复模型可以在高去噪强度下产生更高的全局一致性。请参阅下面的图片。用原始模型和修复模型修复了图像的下半部分。（重绘强度设置为1）

在使用修复模型时报如下错误：RuntimeError: Sizes of tensors must match except in dimension 1. Expected size 1 but got size 2 for tensor number 1 in the list.

您可以在“设置”功能菜单界面上选择“Optimization”菜单，将”Negative Guidance minimum sigma”设置为 0。