# DataLoaders، والمُحسِّنات، والمُجدوِلات

الفئات الداخلية التي يستخدمها Accelerate لتحضير الكائنات للتدريب الموزع عند استدعاء [prepare()](/docs/accelerate/main/ar/package_reference/accelerator#accelerate.Accelerator.prepare).

## أدوات DataLoader[[accelerate.data_loader.prepare_data_loader]]

#### accelerate.data_loader.prepare_data_loader[[accelerate.data_loader.prepare_data_loader]]

```python
accelerate.data_loader.prepare_data_loader(dataloader: DataLoader, device: torch.device | None = None, num_processes: int | None = None, process_index: int | None = None, split_batches: bool = False, put_on_device: bool = False, rng_types: list[str | accelerate.utils.dataclasses.RNGType] | None = None, dispatch_batches: bool | None = None, even_batches: bool = True, slice_fn_for_dispatch: typing.Callable | None = None, use_seedable_sampler: bool = False, data_seed: int | None = None, non_blocking: bool = False, use_stateful_dataloader: bool = False, torch_device_mesh = None)
```

[المصدر](https://github.com/huggingface/accelerate/blob/main/src/accelerate/data_loader.py#L1003)

**المعاملات:**

dataloader (`torch.utils.data.dataloader.DataLoader`) : مُحمِّل البيانات الذي سيتم تقسيمه على عدة أجهزة.

device (`torch.device`) : الجهاز المستهدف لـ `DataLoader` المُعاد.

num_processes (`int`, *اختياري*) : عدد العمليات التي تعمل بالتوازي. سيُستخدم افتراضيًا القيمة المُعطاة بواسطة [PartialState](/docs/accelerate/main/ar/package_reference/state#accelerate.PartialState).

process_index (`int`، *اختياري*) : فهرس العملية الحالية. سيُستخدم افتراضيًا القيمة المُعطاة بواسطة [PartialState](/docs/accelerate/main/ar/package_reference/state#accelerate.PartialState).

split_batches (`bool`، *اختياري*، القيمة الافتراضية `False`) : ما إذا كان يجب على `DataLoader` الناتج تقسيم دفعات مُحمِّل البيانات الأصلي عبر الأجهزة، أو تقديم دفعات كاملة (في هذه الحالة سيقدّم دفعات تبدأ من الدفعة رقم `process_index` وتتقدم بمقدار `num_processes` دفعات في كل تكرار). طريقة أخرى لفهم هذا الخيار هي أن حجم الدفعة المرصود سيكون مطابقًا لحجم الدفعة في `dataloader` الأولي إذا تم ضبط هذا الخيار على `True`، وإلا فسيكون حجم الدفعة في `dataloader` الأولي مضروبًا في `num_processes`. يتطلب ضبط هذا الخيار على `True` أن يكون حجم الدفعة في `dataloader` مضاعفًا صحيحًا لـ `batch_size`.

put_on_device (`bool`، *اختياري*، القيمة الافتراضية `False`) : ما إذا كان يجب وضع الدفعات على `device` (يعمل فقط إذا كانت الدفعات قوائم متداخلة، أو tuples، أو dictionaries من tensors).

rng_types (قائمة من `str` أو [RNGType](/docs/accelerate/main/ar/package_reference/utilities#accelerate.utils.RNGType)) : قائمة مولّدات الأرقام العشوائية التي يجب مزامنتها في بداية كل تكرار. يجب أن تكون واحدة أو أكثر مما يلي: - `"torch"`: مولّد الأرقام العشوائية الأساسي في torch - `"cuda"`: مولّد الأرقام العشوائية الخاص بـ CUDA (لوحدة معالجة الرسوميات فقط) - أي نوع جهاز مسجّل لمسرّع PyTorch: مولّد الأرقام العشوائية الخاص بجهازه. - `"xla"`: مولّد الأرقام العشوائية الخاص بـ XLA (لوحدة معالجة TPU فقط) - `"generator"`: `torch.Generator` الخاص بمُعيّن العينات (أو مُعيّن الدُفعات إذا لم يكن هناك مُعيّن عينات في مُحمّل البيانات الخاص بك) أو الخاص بمجموعة البيانات القابلة للتكرار (إذا وُجدت) إذا كانت مجموعة البيانات الأساسية من ذلك النوع.

dispatch_batches (`bool`، *اختياري*) : إذا تم ضبطه على `True`، فإن مُحمِّل البيانات المُعدّ يُمرَّر عبره فقط في العملية الرئيسية، ثم تُقسَّم الدفعات وتُبَثّ إلى كل عملية. سيكون الافتراضي `True` عندما يكون مجموعة البيانات الأساسية من نوع `IterableDataset`، و`False` في الحالات الأخرى.

even_batches (`bool`، *اختياري*، القيمة الافتراضية `True`) : إذا تم ضبطه على `True`، ففي الحالات التي لا يقسم فيها حجم الدفعة الإجمالي عبر جميع العمليات مجموعة البيانات بشكل صحيح، سيتم تكرار العينات الموجودة في بداية مجموعة البيانات بحيث يمكن تقسيم الدفعة بالتساوي بين جميع العمال.

slice_fn_for_dispatch (`Callable`, *optional*`) : If passed, this function will be used to slice tensors across `num_processes`. Will default to [slice_tensors()](/docs/accelerate/main/ar/package_reference/utilities#accelerate.utils.slice_tensors). This argument is used only when `dispatch_batches` is set to `True` and will be ignored otherwise.

use_seedable_sampler (`bool`، *اختياري*، القيمة الافتراضية `False`) : ما إذا كان يجب استخدام `SeedableRandomSampler` بدلاً من `RandomSampler` لتحسين قابلية إعادة الإنتاج. يأتي ذلك على حساب أداء قد يختلف بسبب خوارزميات الخلط المختلفة، لكنه يضمن أن تكون النتائج *متطابقة* تماماً. يجب استخدامه مع `set_seed()` في كل مرة يُستدعى فيها `self.set_epoch`

data_seed (`int`، *اختياري*، القيمة الافتراضية `None`) : البذرة المستخدمة للمولّد الأساسي عند استخدام `use_seedable_sampler`. إذا كانت `None`، فسيستخدم المولّد البذرة الافتراضية الحالية من torch.

non_blocking (`bool`، *اختياري*، القيمة الافتراضية `False`) : إذا تم ضبطه على `True`، فسيستخدم مُحمِّل البيانات عمليات نقل غير حاصرة من المضيف إلى الجهاز. إذا كان مُحمِّل البيانات مضبوطًا على `pin_memory` بقيمة `True`، فسيُسهم ذلك في زيادة التداخل بين نقل البيانات والحسابات.

use_stateful_dataloader (`bool`، *اختياري*، القيمة الافتراضية `False`) : "إذا تم ضبطه على true، فسيكون مُهيِّئ البيانات المُعد بواسطة Accelerator مدعومًا بواسطة [torchdata.StatefulDataLoader](https://github.com/pytorch/data/tree/main/torchdata/stateful_dataloader). يتطلب ذلك تثبيت إصدار `torchdata` 0.8.0 أو أحدث يدعم StatefulDataLoader."

torch_device_mesh (`torch.distributed.DeviceMesh`، *اختياري*، الافتراضي `None`) : شبكة أجهزة PyTorch.

**يعيد:** `torch.utils.data.dataloader.DataLoader`

محمّل بيانات جديد سيقدم الجزء من الدفعات

يغلّف `DataLoader` الخاص بـ PyTorch لتوليد الدفعات لأحد العمليات فقط.

يعتمد على قيمة الخاصية `drop_last` الخاصة بـ `dataloader` المُمرَّر، إما أن يتوقف التكرار عند الدفعة الأولى التي ستكون صغيرة جدًا / غير موجودة في جميع العمليات، أو أن يستمر في التكرار باستخدام الفهارس من البداية.

لا يتم تفعيل `BatchSampler`s ذات أحجام دفعات متغيرة بشكل افتراضي. لتفعيل هذا السلوك، اضبط `even_batches` على `False`

#### accelerate.skip_first_batches[[accelerate.skip_first_batches]]

```python
accelerate.skip_first_batches(dataloader, num_batches = 0)
```

[المصدر](https://github.com/huggingface/accelerate/blob/main/src/accelerate/data_loader.py#L1379)

ينشئ `torch.utils.data.DataLoader` يتخطى بكفاءة أول `num_batches`. لا ينبغي استخدامه إذا كان مُحمِّل البيانات الأصلي من نوع `StatefulDataLoader`.

## BatchSamplerShard[[accelerate.data_loader.BatchSamplerShard]]

#### accelerate.data_loader.BatchSamplerShard[[accelerate.data_loader.BatchSamplerShard]]

```python
accelerate.data_loader.BatchSamplerShard(batch_sampler: BatchSampler, num_processes: int = 1, process_index: int = 0, split_batches: bool = False, even_batches: bool = True)
```

[المصدر](https://github.com/huggingface/accelerate/blob/main/src/accelerate/data_loader.py#L101)

**المعاملات:**

batch_sampler (`torch.utils.data.sampler.BatchSampler`) : مُعيّن الدُفعات (batch sampler) لتقسيم البيانات إلى عدة أجزاء.

num_processes (`int`، *اختياري*، القيمة الافتراضية 1) : عدد العمليات التي تعمل بالتوازي.

process_index (`int`، *اختياري*، القيمة الافتراضية 0) : فهرس العملية الحالية.

split_batches (`bool`، *اختياري*، القيمة الافتراضية `False`) : ما إذا كان يجب إنشاء الشرائح (shards) عن طريق تقسيم الدفعة (batch) لمنح جزء منها لكل عملية، أو عن طريق تقديم دفعات كاملة مختلفة على كل عملية. في حالتي عمليتين مع عينة (sampler) من `[[0, 1, 2, 3], [4, 5, 6, 7]]`، سيؤدي ذلك إلى: - أن تقدم العينة على العملية 0 `[0, 1, 2, 3]` وأن تقدم العينة على العملية 1 `[4, 5, 6, 7]` إذا تم تعيين هذا الحجة إلى `False`. - أن تقدم العينة على العملية 0 `[0, 1]` ثم `[4, 5]` وأن تقدم العينة على العملية 1 `[2, 3]` ثم `[6, 7]` إذا تم تعيين هذا الحجة إلى `True`.

even_batches (`bool`، *اختياري*، القيمة الافتراضية `True`) : ما إذا كان يجب العودة إلى بداية المُعيّن (sampler) أم لا عندما لا يكون عدد العينات مضاعفًا صحيحًا لـ (حجم الدفعة الأصلي / عدد العمليات).

يغلّف `BatchSampler` الخاص بـ PyTorch لتوليد الدفعات لأحد العمليات فقط. ستُنتج دائمًا أمثلة هذا الفئة عددًا من الدفعات يكون مضاعفًا صحيحًا لـ `num_processes` وتكون جميعها بنفس الحجم. اعتمادًا على قيمة خاصية `drop_last` في مُعيّن الدفعات المُمرَّر، سيتوقف التكرار عند الدفعة الأولى التي ستكون صغيرة جدًا / غير موجودة في جميع العمليات، أو سيستمر في التكرار باستخدام الفهارس من البداية.

لا يتم تفعيل `BatchSampler`s ذات أحجام دفعات متغيرة بشكل افتراضي. لتفعيل هذا السلوك، اضبط `even_batches` على `False`

## IterableDatasetShard[[accelerate.data_loader.IterableDatasetShard]]

#### accelerate.data_loader.IterableDatasetShard[[accelerate.data_loader.IterableDatasetShard]]

```python
accelerate.data_loader.IterableDatasetShard(dataset: IterableDataset, batch_size: int = 1, drop_last: bool = False, num_processes: int = 1, process_index: int = 0, split_batches: bool = False)
```

[المصدر](https://github.com/huggingface/accelerate/blob/main/src/accelerate/data_loader.py#L265)

**المعاملات:**

dataset (`torch.utils.data.dataset.IterableDataset`) : عينة الدفعة (batch sampler) لتقسيم البيانات إلى عدة أجزاء (shards).

batch_size (`int`، *اختياري*، القيمة الافتراضية 1) : حجم الدُفعات لكل شريحة (إذا كان `split_batches=False`) أو حجم الدُفعات (إذا كان `split_batches=True`).

drop_last (`bool`، *اختياري*، الافتراضي `False`) : ما إذا كان سيتم إسقاط آخر دفعة غير مكتملة أو إكمال الدفعة الأخيرة باستخدام العينات من البداية.

num_processes (`int`، *اختياري*، القيمة الافتراضية 1) : عدد العمليات التي تعمل بالتوازي.

process_index (`int`، *اختياري*، القيمة الافتراضية 0) : فهرس العملية الحالية.

split_batches (`bool`، *اختياري*، القيمة الافتراضية `False`) : ما إذا كان يجب إنشاء الشرائح (shards) عن طريق تقسيم الدفعة (batch) لمنح جزء منها لكل عملية، أو عن طريق تقديم دفعات كاملة مختلفة على كل عملية. عند وجود عمليتين مع مجموعة بيانات قابلة للتكرار تُنتج `[0, 1, 2, 3, 4, 5, 6, 7]`، سيؤدي ذلك إلى: - أن تُنتج الشريحة على العملية 0 `[0, 1, 2, 3]` وأن تُنتج الشريحة على العملية 1 `[4, 5, 6, 7]` إذا تم تعيين هذا الحجة إلى `False`. - أن تُنتج الشريحة على العملية 0 `[0, 1, 4, 5]` وأن يُنتج المُعيّن (sampler) على العملية 1 `[2, 3, 6, 7]` إذا تم تعيين هذا الحجة إلى `True`.

يغلّف مجموعة بيانات `IterableDataset` من PyTorch لتوليد عينات لأحد العمليات فقط. ستُنتج دائمًا كائنات هذه الفئة عددًا من العينات يكون مضاعفًا صحيحًا لحجم الدفعة الفعلي (اعتمادًا على قيمة `split_batches`، يكون هذا إما `batch_size` أو `batch_size x num_processes`). اعتمادًا على قيمة خاصية `drop_last` في عيّنة الدفعات المُمرّرة، سيتوقف التكرار عند أول دفعة ستكون صغيرة جدًا، أو سيستمر في التكرار باستخدام الفهارس من البداية.

## DataLoaderShard[[accelerate.data_loader.DataLoaderShard]]

#### accelerate.data_loader.DataLoaderShard[[accelerate.data_loader.DataLoaderShard]]

```python
accelerate.data_loader.DataLoaderShard(dataset, device = None, rng_types = None, synchronized_generator = None, skip_batches = 0, use_stateful_dataloader = False, _drop_last: bool = False, _non_blocking: bool = False, torch_device_mesh = None, iteration = 0, **kwargs)
```

[المصدر](https://github.com/huggingface/accelerate/blob/main/src/accelerate/data_loader.py#L497)

**المعاملات:**

dataset (`torch.utils.data.dataset.Dataset`) : مجموعة البيانات المستخدمة لبناء هذا محمّل البيانات.

device (`torch.device`، *اختياري*) : إذا تم تمريره، فهو الجهاز الذي سيتم وضع جميع الدفعات عليه.

rng_types (قائمة من `str` أو [RNGType](/docs/accelerate/main/ar/package_reference/utilities#accelerate.utils.RNGType)) : قائمة مولّدات الأرقام العشوائية التي يجب مزامنتها في بداية كل تكرار. يجب أن تكون واحدة أو أكثر مما يلي:  - `"torch"`: مولّد الأرقام العشوائية الأساسي في torch - `"cuda"`: مولّد الأرقام العشوائية الخاص بـ CUDA (لوحدة معالجة الرسوميات فقط) - أي نوع جهاز مسجّل لمسرّع PyTorch: مولّد الأرقام العشوائية الخاص بجهازه. - `"xla"`: مولّد الأرقام العشوائية الخاص بـ XLA (لوحدة معالجة TPU فقط) - `"generator"`: `torch.Generator` اختياري

synchronized_generator (`torch.Generator`، *اختياري*) : مولّد أرقام عشوائية للحفاظ على التزامن بين العمليات.

skip_batches (`int`، *اختياري*، القيمة الافتراضية 0) : عدد الدفعات التي سيتم تجاوزها في البداية.

use_stateful_dataloader (`bool`، *اختياري*، القيمة الافتراضية `False`) : ما إذا كان يجب على هذه الفئة تكييف `StatefulDataLoader` من `torchdata` بدلاً من `DataLoader` العادي.

- ****kwargs** (معلمات إضافية بالكلمات المفتاحية، *اختيارية*) : جميع معلمات الكلمات المفتاحية الأخرى التي يجب تمريرها إلى تهيئة `DataLoader` العادية.

فئة فرعية من `DataLoaderAdapter` تتعامل مع توزيع الأجهزة والإعداد الموزع الحالي.

**الخصائص المتاحة:**

- **total_batch_size** (`int`) -- حجم الدفعة الإجمالي لـ dataloader عبر جميع العمليات. يساوي حجم الدفعة الأصلي عندما يكون `split_batches=True`؛ وإلا فهو حجم الدفعة الأصلي مضروباً في العدد الإجمالي للعمليات

- **total_dataset_length** (`int`) -- إجمالي طول مجموعة البيانات الداخلية عبر جميع العمليات.

## DataLoaderDispatcher[[accelerate.data_loader.DataLoaderDispatcher]]

#### accelerate.data_loader.DataLoaderDispatcher[[accelerate.data_loader.DataLoaderDispatcher]]

```python
accelerate.data_loader.DataLoaderDispatcher(dataset, split_batches: bool = False, skip_batches = 0, use_stateful_dataloader = False, _drop_last: bool = False, _non_blocking: bool = False, slice_fn = None, torch_device_mesh = None, iteration = 0, **kwargs)
```

[المصدر](https://github.com/huggingface/accelerate/blob/main/src/accelerate/data_loader.py#L714)

**المعاملات:**

split_batches (`bool`، *اختياري*، القيمة الافتراضية `False`) : ما إذا كان يجب على `DataLoader` الناتج تقسيم دفعات مُحمِّل البيانات الأصلي عبر الأجهزة أم تقديم دفعات كاملة (في هذه الحالة سيقدّم دفعات تبدأ من الدفعة رقم `process_index` وتتقدم بمقدار `num_processes` دفعات في كل تكرار). طريقة أخرى لفهم هذا هي أن حجم الدفعة المرصود سيكون مطابقًا لحجم الدفعة في `dataloader` الأولي إذا تم ضبط هذا الخيار على `True`، وإلا فسيكون حجم الدفعة في `dataloader` الأولي مضروبًا في `num_processes`. يتطلب ضبط هذا الخيار على `True` أن يكون حجم الدفعة في `dataloader` مضاعفًا صحيحًا لـ`batch_size`.

skip_batches (`int`، *اختياري*، القيمة الافتراضية 0) : عدد الدفعات التي سيتم تجاوزها في بداية التكرار.

use_stateful_dataloader (`bool`، *اختياري*، القيمة الافتراضية `False`) : ما إذا كان يجب على هذه الفئة تكييف `StatefulDataLoader` من `torchdata` بدلاً من `DataLoader` العادي.

فئة فرعية من `DataLoaderAdapter` تتكرر وتعالج مسبقًا على العملية 0 فقط، ثم توزّع على كل عملية جزءها من الدفعة.

**الخصائص المتاحة:**

- **total_batch_size** (`int`) -- حجم الدفعة الإجمالي لـ dataloader عبر جميع العمليات. يساوي حجم الدفعة الأصلي عندما يكون `split_batches=True`؛ وإلا فهو حجم الدفعة الأصلي مضروباً في العدد الإجمالي للعمليات

- **total_dataset_length** (`int`) -- إجمالي طول مجموعة البيانات الداخلية عبر جميع العمليات.

## AcceleratedOptimizer[[accelerate.optimizer.AcceleratedOptimizer]]

#### accelerate.optimizer.AcceleratedOptimizer[[accelerate.optimizer.AcceleratedOptimizer]]

```python
accelerate.optimizer.AcceleratedOptimizer(optimizer, device_placement = True, scaler = None)
```

[المصدر](https://github.com/huggingface/accelerate/blob/main/src/accelerate/optimizer.py#L38)

**المعاملات:**

optimizer (`torch.optim.optimizer.Optimizer`) : المُحسِّن الذي سيتم تغليفه.

device_placement (`bool`، *اختياري*، القيمة الافتراضية `True`) : ما إذا كان المُحسِّن يجب أن يتعامل مع تحديد الموقع على الجهاز أم لا. في حال كان كذلك، سيقوم بوضع قاموس الحالة الخاص بـ`optimizer` على الجهاز الصحيح.

scaler (`torch.amp.GradScaler` أو `torch.cuda.amp.GradScaler`، *اختياري*) : المُقيِّم (scaler) الذي يُستخدم في دالة الخطوة عند التدريب بدقة مختلطة.

غلاف داخلي حول مُحسِّن torch.

سيُنفَّذ `step` و`zero_grad` بشكل مشروط إذا كان يجب مزامنة التدرجات عند تنفيذ تراكم التدرجات.

#### eval[[accelerate.optimizer.AcceleratedOptimizer.eval]]

```python
eval()
```

[المصدر](https://github.com/huggingface/accelerate/blob/main/src/accelerate/optimizer.py#L138)

يُعيّن المُحسِّن في وضع "eval". مفيد للمُحسِّنات مثل `schedule_free`

#### train[[accelerate.optimizer.AcceleratedOptimizer.train]]

```python
train()
```

[المصدر](https://github.com/huggingface/accelerate/blob/main/src/accelerate/optimizer.py#L124)

يُعيّن المُحسِّن في وضع "التدريب". مفيد للمُحسِّنات مثل `schedule_free`

## AcceleratedScheduler[[accelerate.scheduler.AcceleratedScheduler]]

#### accelerate.scheduler.AcceleratedScheduler[[accelerate.scheduler.AcceleratedScheduler]]

```python
accelerate.scheduler.AcceleratedScheduler(scheduler, optimizers, step_with_optimizer: bool = True, split_batches: bool = False)
```

[المصدر](https://github.com/huggingface/accelerate/blob/main/src/accelerate/scheduler.py#L25)

**المعاملات:**

scheduler (`torch.optim.lr_scheduler._LRScheduler`) : الجدولة التي سيتم تغليفها.

optimizers (واحد أو قائمة من `torch.optim.Optimizer`) : المُحسِّنات المستخدمة.

step_with_optimizer (`bool`، *اختياري*، القيمة الافتراضية `True`) : ما إذا كان يجب على المجدول أن يُخطو في كل خطوة من خطوات المُحسِّن.

split_batches (`bool`، *اختياري*، القيمة الافتراضية `False`) : ما إذا كان مُحمِّلات البيانات تقسم دفعة واحدة عبر العمليات المختلفة (بحيث تكون حجم الدفعة متساوياً بغض النظر عن عدد العمليات) أم تنشئ دفعات على كل عملية (بحيث يكون حجم الدفعة هو حجم الدفعة الأصلي مضروباً في عدد العمليات).

غلاف حول مجدول معدل التعلم (learning rate scheduler) لن يتقدّم إلا عندما يكون للمُحسِّن (optimizer) خطوة تدريب. مفيد لتجنّب تقدّم المجدول بسرعة زائدة عندما تتجاوز التدرّجات حدّ الفَاض (overflow) ولم تكن هناك خطوة تدريب (في التدريب بدقة مختلطة)

عند تنفيذ تراكم التدرّجات، لا ينبغي تغيير أطوال مجدول التدرّجات تبعًا لذلك، إذ سيقوم Accelerate دائمًا بخطوة في المجدول لمراعاة ذلك.

