Transformers documentation
ResNet
このモデルは2015年12月10日にHF papersで公開され、2022年3月14日にHugging Face Transformersに貢献されました。
ResNet
概要
ResNetモデルは、Kaiming He、Xiangyu Zhang、Shaoqing Ren、Jian Sun による Deep Residual Learning for Image Recognition で提案されました。当社の実装は Nvidia による小さな変更を踏襲しており、bottleneck の 3x3 畳み込みで stride=2 を下サンプリングに適用し、最初の 1x1 には適用していません。これは一般的に「ResNet v1.5」として知られています。
ResNetは残差接続を導入し、これによりこれまでに見られなかった層数（最大1000層）のネットワークを学習できるようになりました。ResNetは2015年のILSVRC & COCOコンペティションで優勝し、深層コンピュータビジョンにおける重要なマイルストーンの一つとなりました。
論文の抄録は以下の通りです。
より深いニューラルネットワークは学習が困難です。本研究では、従来のものよりもはるかに深いネットワークの学習を容易にするための残差学習フレームワークを提案します。層を参照なしの関数を学習するのではなく、層の入力を参照した残差関数を学習するよう明示的に再定式化します。これらの残差ネットワークは最適化が容易であり、大幅に深さを増しても精度が向上することを示す包括的な実証的証拠を提供します。ImageNetデータセットでは、最大152層の深さを持つ残差ネットワークを評価しました。これはVGGネットワークの8倍の深さですが、複雑さは依然として低いです。これらの残差ネットワークのアンサンブルは、ImageNetテストセットで3.57%のエラー率を達成しました。この結果により、ILSVRC 2015の分類タスクで1位を獲得しました。また、100層および1000層のネットワークを用いたCIFAR-10での分析も提示します。 表現の深さは、多くの視覚認識タスクにおいて中心的な重要性を有します。極めて深い表現のおかげで、COCO物体検出データセットで28%の相対的な改善を達成しました。深い残差ネットワークは、ILSVRC & COCO 2015コンペティションへの提出物の基盤であり、ImageNet検出、ImageNet位置特定、COCO検出、COCOセグメンテーションの各タスクでも1位を獲得しました。
下図はResNetのアーキテクチャを示しています。元の論文より引用。
このモデルはFrancescoによって提供されました。元のコードはこちらで確認できます。
リソース
ResNetの入門を支援するための、Hugging Face公式およびコミュニティ（🌎で示されます）のリソースのリストです。
- ResNetForImageClassification は、この ノートブック でサポートされています。
- 関連項目: 画像分類タスクガイド
ここにリソースを掲載していただくことを希望される場合は、Pull Request を開いてください。レビューいたします。リソースは、既存のリソースと重複するのではなく、新しいものを示すことが望ましいです。
ResNetConfig
クラス transformers.ResNetConfig
< source >( transformers_version: str | None = Nonearchitectures: list[str] | None = Noneoutput_hidden_states: bool | None = Falsereturn_dict: bool | None = Truedtype: str | torch.dtype | None = Nonechunk_size_feed_forward: int = 0is_encoder_decoder: bool = Falseid2label: dict[int, str] | dict[str, str] | None = Nonelabel2id: dict[str, int] | dict[str, str] | None = Noneproblem_type: Literal['regression', 'single_label_classification', 'multi_label_classification'] | None = Nonenum_channels: int = 3embedding_size: int = 64hidden_sizes: list[int] | tuple[int, ...] | None = (256, 512, 1024, 2048)depths: list[int] | tuple[int, ...] | None = (3, 4, 6, 3)layer_type: str = 'bottleneck'hidden_act: str = 'relu'downsample_in_first_stage: bool = Falsedownsample_in_bottleneck: bool = False )
パラメータ
- num_channels (
int、任意、デフォルトは3) — 入力チャネル数。 - embedding_size (
int、任意、デフォルトは64) — 埋め込みおよび隠れ状態の次元数。 - hidden_sizes (
Union[list[int], tuple[int, ...]]、任意、デフォルトは(256, 512, 1024, 2048)) — モデルの各ステージにおける次元数（隠れサイズ）。 - depths (
Union[list[int], tuple[int, ...]]、任意、デフォルトは(3, 4, 6, 3)) — Transformer の各層の深さです。 - layer_type (
str、任意、デフォルトは"bottleneck") — 使用するレイヤーを指定します。"basic"（resnet-18 や resnet-34 などの小規模モデルに使用）または"bottleneck"（resnet-50 以上の大規模モデルに使用）のいずれかです。 - hidden_act (
str、任意、デフォルトはrelu) — デコーダーで使用する非線形活性化関数（関数または文字列）。例えば、"gelu"、"relu"、"silu"など。 - downsample_in_first_stage (
bool、省略可、デフォルトはFalse) —Trueの場合、最初のステージではstrideが2のダウンサンプリングによって入力を縮小します。 - downsample_in_bottleneck (
bool、省略可、デフォルトはFalse) —Trueの場合、ResNetBottleNeckLayerの最初の1x1畳み込みが、strideを2として入力をダウンサンプルします。
これは ResNetModel の設定を保存するための設定クラスです。指定された引数に基づいて Resnet モデルをインスタンス化し、モデルのアーキテクチャを定義するために使用されます。デフォルト値で設定をインスタンス化すると、microsoft/resnet-50 と同様の設定が得られます。
設定オブジェクトはPreTrainedConfigを継承し、モデルの出力を制御するために使用できます。詳細については、PreTrainedConfigのドキュメントを参照してください。
例:
>>> from transformers import ResNetConfig, ResNetModel
>>> # Initializing a ResNet resnet-50 style configuration
>>> configuration = ResNetConfig()
>>> # Initializing a model (with random weights) from the resnet-50 style configuration
>>> model = ResNetModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.configlayer_types が正しく定義されていることを確認してください。
ResNetModel
class transformers.ResNetModel
< source >( config: ResNetConfig )
パラメータ
- config (ResNetConfig) — モデルのパラメータをすべて含むモデル設定クラスです。設定ファイルで初期化しても、モデルに関連する重みは読み込まれず、設定のみが読み込まれます。モデルの重みをロードするには、from_pretrained() メソッドを参照してください。
特定のヘッドを付加せず、生のhidden-statesを出力する素のResnetモデル。
このモデルは PreTrainedModel を継承しています。すべてのモデルに実装されている汎用的なメソッド（ダウンロードや保存、入力埋め込みのリサイズ、ヘッドのプルーニングなど）については、スーパークラスのドキュメントを参照してください。
このモデルは、PyTorchのtorch.nn.Moduleのサブクラスでもあります。 通常のPyTorch Moduleとして使用し、一般的な使用方法や動作に関する詳細については、PyTorchのドキュメントを参照してください。
forward
< source >( pixel_values: Tensoroutput_hidden_states: bool | None = Nonereturn_dict: bool | None = None**kwargs ) → BaseModelOutputWithPoolingAndNoAttention or tuple(torch.Tensor)
パラメータ
- pixel_values (
torch.Tensor、形状(batch_size, num_channels, image_size, image_size)) — 入力画像に対応するテンソルです。ピクセル値は ConvNextImageProcessor を使用して取得できます。詳細は ConvNextImageProcessor.call() を参照してください（processor_classは画像の処理に ConvNextImageProcessor を使用します）。 - output_hidden_states (
bool, 省略可) — すべての層の hidden states を返すかどうかを指定します。詳細は、返されるテンソルのhidden_statesを参照してください。 - return_dict (
bool, 任意) — プレーンなタプルではなく ModelOutput を返すかどうか。
戻り値
BaseModelOutputWithPoolingAndNoAttention または tuple(torch.Tensor)
BaseModelOutputWithPoolingAndNoAttention または、return_dict=False が渡された場合、または config.return_dict=False の場合、torch.Tensor のタプル。設定（ResNetConfig）や入力に応じて、さまざまな要素で構成されます。
ResNetModelのforwardメソッドは、__call__という特殊メソッドをオーバーライドします。
この関数内でフォワードパスの手順を定義する必要がありますが、その後、この関数ではなく
Moduleインスタンスを呼び出すべきです。前者は前処理と後処理の実行を適切に処理するのに対し、後者はそれらを黙って無視するためです。
last_hidden_state (
torch.Tensor、形状(batch_size, num_channels, height, width)) — モデルの最終層の出力における隠れ状態のシーケンス。pooler_output (
torch.Tensor、形状(batch_size, hidden_size)) — 空間次元に対するプーリング操作を行った後の最終層の隠れ状態です。hidden_states (
tuple(torch.Tensor)、optional、output_hidden_states=Trueが渡された場合またはconfig.output_hidden_states=Trueの場合に返されます) —torch.Tensorのタプル（埋め込み層を持つモデルの場合、埋め込みの出力が 1 つ、各層の出力がそれぞれ 1 つずつ）で、形状は(batch_size, num_channels, height, width)です。各層の出力におけるモデルのHidden-states、および任意の初期埋め込み出力。
ResNetForImageClassification
クラス transformers.ResNetForImageClassification
< source >( config: ResNetConfig )
パラメータ
- config (ResNetConfig) — モデルのパラメータをすべて含むモデル設定クラスです。設定ファイルで初期化しても、モデルに関連する重みは読み込まれず、設定のみが読み込まれます。モデルの重みをロードするには、from_pretrained() メソッドを参照してください。
画像分類ヘッド（プーリングされた特徴量の上に配置された線形層）を備えた ResNet モデル。ImageNet などの用途に使用できます。
このモデルは PreTrainedModel を継承しています。すべてのモデルに実装されている汎用的なメソッド（ダウンロードや保存、入力埋め込みのリサイズ、ヘッドのプルーニングなど）については、スーパークラスのドキュメントを参照してください。
このモデルは、PyTorchのtorch.nn.Moduleのサブクラスでもあります。 通常のPyTorch Moduleとして使用し、一般的な使用方法や動作に関する詳細については、PyTorchのドキュメントを参照してください。
forward
< source >( pixel_values: typing.Optional[torch.Tensor] = Nonelabels: typing.Optional[torch.LongTensor] = Noneoutput_hidden_states: bool | None = Nonereturn_dict: bool | None = None**kwargs ) → ImageClassifierOutputWithNoAttention or tuple(torch.Tensor)
パラメータ
- pixel_values (
torch.Tensor、形状(batch_size, num_channels, image_size, image_size)、任意) — 入力画像に対応するテンソルです。ピクセル値は ConvNextImageProcessor を使用して取得できます。詳細については ConvNextImageProcessor.call() を参照してください（processor_classは画像の処理に ConvNextImageProcessor を使用します）。 - labels (
torch.LongTensor、shape(batch_size,)、任意) — 画像分類/回帰の損失を計算するためのラベル。インデックスは[0, ..., config.num_labels - 1]の範囲である必要があります。config.num_labels > 1の場合、分類損失（Cross-Entropy）が計算されます。 - output_hidden_states (
bool, 省略可) — すべての層の hidden states を返すかどうかを指定します。詳細は、返されるテンソルのhidden_statesを参照してください。 - return_dict (
bool, 任意) — プレーンなタプルではなく ModelOutput を返すかどうか。
戻り値
ImageClassifierOutputWithNoAttention または tuple(torch.Tensor)
torch.Tensor のタプル（return_dict=False が渡された場合、または config.return_dict=False の場合）または ImageClassifierOutputWithNoAttention。設定（ResNetConfig）と入力に応じて、さまざまな要素で構成されます。
ResNetForImageClassification の forward メソッドは、__call__ という特殊メソッドをオーバーライドしています。
この関数内でフォワードパスの手順を定義する必要がありますが、その後、この関数ではなく
Moduleインスタンスを呼び出すべきです。前者は前処理と後処理の実行を適切に処理するのに対し、後者はそれらを黙って無視するためです。
- loss (
torch.Tensor、shape(1,)、optional、labelsが指定された場合に返されます) — 分類損失（config.num_labels==1 の場合は回帰損失）。 - logits (
torch.Tensor、形状(batch_size, config.num_labels)) — SoftMax 適用前の分類（または config.num_labels==1 の場合は回帰）スコア。 - hidden_states (
tuple(torch.Tensor)、optional、output_hidden_states=Trueが渡された場合またはconfig.output_hidden_states=Trueの場合に返されます) —torch.Tensorのタプル（埋め込み層を持つモデルの場合、埋め込みの出力が 1 つ、各ステージの出力がそれぞれ 1 つずつ）で、形状は(batch_size, num_channels, height, width)です。各ステージの出力におけるモデルの隠れ状態（特徴マップとも呼ばれます）。
例:
>>> from transformers import AutoImageProcessor, ResNetForImageClassification
>>> import torch
>>> from datasets import load_dataset
>>> dataset = load_dataset("huggingface/cats-image")
>>> image = dataset["test"]["image"][0]
>>> image_processor = AutoImageProcessor.from_pretrained("microsoft/resnet-50")
>>> model = ResNetForImageClassification.from_pretrained("microsoft/resnet-50")
>>> inputs = image_processor(image, return_tensors="pt")
>>> with torch.no_grad():
... logits = model(**inputs).logits
>>> # model predicts one of the 1000 ImageNet classes
>>> predicted_label = logits.argmax(-1).item()
>>> print(model.config.id2label[predicted_label])
...