Diffusers documentation
HunyuanVideo15Transformer3DModel
HunyuanVideo15Transformer3DModel
用于 HunyuanVideo1.5 中 3D 类视频数据的 Diffusion Transformer 模型。
可以使用以下代码片段加载该模型。
from diffusers import HunyuanVideo15Transformer3DModel
transformer = HunyuanVideo15Transformer3DModel.from_pretrained("hunyuanvideo-community/HunyuanVideo-1.5-Diffusers-480p_t2v" subfolder="transformer", dtype=torch.bfloat16)HunyuanVideo15Transformer3DModel
类 diffusers.HunyuanVideo15Transformer3DModel
< source >( in_channels: int = 65out_channels: int = 32num_attention_heads: int = 16attention_head_dim: int = 128num_layers: int = 54num_refiner_layers: int = 2mlp_ratio: float = 4.0patch_size: int = 1patch_size_t: int = 1qk_norm: str = 'rms_norm'text_embed_dim: int = 3584text_embed_2_dim: int = 1472image_embed_dim: int = 1152rope_theta: float = 256.0rope_axes_dim: tuple[int, ...] = (16, 56, 56)target_size: int = 640task_type: str = 'i2v'use_meanflow: bool = False )
参数
- in_channels (
int，默认为16) — 输入数据的通道数。 - out_channels (
int，默认为16) — 输出中的通道数。 - num_attention_heads (
int，默认为24) — 多头注意力机制中使用的注意力头数量。 - attention_head_dim (
int，默认为128) — 每个头中的通道数。 - num_layers (
int，默认为20) — 要使用的双流块层数。 - num_refiner_layers (
int，默认为2) — 要使用的 refiner 块层数。 - mlp_ratio (
float，默认为4.0) — 前馈网络中隐藏层大小与输入大小的比率。 - patch_size (
int，默认为2) — 用于 patch 嵌入层的空间 patch 大小。 - patch_size_t (
int，默认为1) — 用于 patch 嵌入层的时间 patch 大小。 - qk_norm (
str，默认为rms_norm) — 注意力层中查询和键投影所使用的归一化方法。 - guidance_embeds (
bool，默认为True) — 是否在模型中使用 guidance embeddings。 - text_embed_dim (
int，默认为4096) — 来自文本编码器的文本嵌入的输入维度。 - pooled_projection_dim (
int，默认为768) — 文本嵌入池化投影的维度。 - rope_theta (
float，默认为256.0) — RoPE 层中使用的 theta 值。 - rope_axes_dim (
tuple[int]，默认为(16, 56, 56)) — RoPE 层中使用的各轴维度。
用于 HunyuanVideo1.5 的、处理类视频数据的 Transformer 模型。
forward
< source >( hidden_states: Tensortimestep: LongTensorencoder_hidden_states: Tensorencoder_attention_mask: Tensortimestep_r: typing.Optional[torch.LongTensor] = Noneencoder_hidden_states_2: typing.Optional[torch.Tensor] = Noneencoder_attention_mask_2: typing.Optional[torch.Tensor] = Noneimage_embeds: typing.Optional[torch.Tensor] = Noneattention_kwargs: dict[str, typing.Any] | None = Nonereturn_dict: bool = True )
参数
- hidden_states（形状为
(batch_size, num_channels, num_frames, height, width)的torch.Tensor）— 输入的hidden_states。 - timestep (
torch.LongTensor) — 用于指示去噪步骤。 - encoder_hidden_states (
torch.Tensor，形状为(batch_size, sequence_len, embed_dims)) — 要使用的条件嵌入（从输入条件（例如提示词）计算得出的嵌入）。 - encoder_attention_mask (
torch.Tensor) — 在注意力机制中应用于encoder_hidden_states的掩码。 - timestep_r (
torch.LongTensor, 可选) — Refiner 时间步条件。 - encoder_hidden_states_2 (
torch.Tensor, 可选) — 由第二个文本编码器（ByT5）计算得出的额外条件嵌入。 - encoder_attention_mask_2 (
torch.Tensor, 可选) — 在注意力机制中应用于encoder_hidden_states_2的掩码。 - image_embeds（
torch.Tensor，可选）— 用于图像条件生成的图像嵌入。 - attention_kwargs (
dict, 可选) — 一个 kwargs 字典，如果指定，将传递给 diffusers.models.attention_processor 中定义的AttentionProcessor，该处理器在self.processor下定义。 - return_dict (
bool，可选，默认为True) — 是否返回~models.transformer_2d.Transformer2DModelOutput而不是普通的元组。
Transformer2DModelOutput
类 diffusers.models.modeling_outputs.Transformer2DModelOutput
< source >( sample: torch.Tensor )
参数
- sample（形状为
(batch_size, num_channels, height, width)的torch.Tensor，或者如果 Transformer2DModel 是离散的，则为(batch size, num_vector_embeds - 1, num_latent_pixels)）— 以encoder_hidden_states输入为条件的隐藏状态输出。如果是离散的，则返回未加噪潜在像素的概率分布。
Transformer2DModel 的输出。