استفاده از یک سیگنال 1D را بر روی سیگنال ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
استفاده از یک تصویر 2D را بر روی یک تصویر ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
یک کاروانس سه بعدی را بر روی یک تصویر ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
یک اپراتور حلقوی انتقال 1D را بر روی یک سیگنال ورودی متشکل از چندین هواپیمای ورودی ، که گاهی اوقات "تجزیه آن" نیز نامیده می شود ، اعمال می کند.
یک اپراتور حلقوی انتقال 2D را بر روی یک تصویر ورودی متشکل از چندین هواپیمای ورودی ، که گاهی اوقات "تجزیه آن" نیز نامیده می شود ، اعمال می کند.
یک اپراتور حلقوی سه بعدی را بر روی یک تصویر ورودی متشکل از چندین هواپیمای ورودی ، که گاهی اوقات "تجزیه" نیز نامیده می شود ، اعمال می کند.
استخراج بلوک های محلی کشویی از یک تانسور ورودی دسته ای.
مجموعه ای از بلوک های محلی کشویی را در یک تانسور بزرگ حاوی ترکیب می کند.
توابع استخر
یک استخر متوسط 1D را بر روی سیگنال ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
عملیات استحکام متوسط 2D را در K H × K W KH TIME KW K H × KW مناطق با اندازه مرحله S H × S W SH Times SW SH × S W اعمال می کند.
عملکرد استخر متوسط سه بعدی را در K T × K H × K W KT TIME KH TIME KW K T × K H × KW مناطق با اندازه مرحله S T × S H × S W ST TIME SH TIME SW S T اعمال می کند. مراحل × SH × S W.
یک استخر حداکثر 1D را بر روی سیگنال ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
یک حداکثر 2D حداکثر را بر روی سیگنال ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
یک استخر حداکثر سه بعدی را بر روی سیگنال ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
یک معکوس جزئی از maxpool1d را محاسبه می کند.
یک معکوس جزئی از maxpool2d را محاسبه می کند.
یک معکوس جزئی از maxpool3d را محاسبه می کند.
یک ترکیب متوسط قدرت 1D را بر روی سیگنال ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
یک ترکیب متوسط قدرت 2D را بر روی سیگنال ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
یک حداکثر تطبیقی 1D را بر روی سیگنال ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
یک حداکثر تطبیقی 2D را بر روی سیگنال ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
یک حداکثر تطبیقی سه بعدی را بر روی سیگنال ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
یک ترکیب متوسط تطبیقی 1D را بر روی سیگنال ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
یک ترکیب متوسط تطبیقی 2D را بر روی سیگنال ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
یک جمع متوسط تطبیقی سه بعدی را بر روی یک سیگنال ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
حداکثر حداکثر کسری 2D را بر روی سیگنال ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
حداکثر حداکثر کسری سه بعدی را بر روی سیگنال ورودی متشکل از چندین هواپیمای ورودی اعمال می کند.
مکانیسم های توجه
محاسبه توجه محصول نقطه مقیاس شده بر روی پرس و جو ، تنش های کلید و ارزش ، با استفاده از ماسک توجه اختیاری در صورت عبور ، و استفاده از ترک تحصیل در صورت وجود احتمال بیشتر از 0. 0.
توابع فعال سازی غیرخطی
آستانه هر عنصر از تانسور ورودی.
نسخه در مکان آستانه ().
عملکرد واحد خطی اصلاح شده عنصر عاقلانه را اعمال می کند.
نسخه در محل Relu ().
عملکرد هاردتانا را از نظر عاقلانه اعمال می کند.
نسخه در مکان هاردتانا ().
همانطور که در مقاله توضیح داده شده است ، عملکرد سخت ، عناوین را اعمال می کند:
عملکرد عناصر عناصر relu6 (x) = min u2061 (max u2061 (0 ، x) ، 6) text (x) = min ( max (0 ، x) ، 6) relu6 (x) = min (min (min) را اعمال می کند. حداکثر (0 ، x) ، 6).
تابع خطی نمایی (ELU) عملکرد عناصر عاقلانه را اعمال می کند.
نسخه در محل ELU ().
عناصر عاقلانه ، selu (x) = s c a l e ∗ (حداکثر u2061 (0 ، x) + min u2061 (0 ، α ∗ (exp u2061 (x)-1))) text (x) = مقیاس * ( max.
از عنصر عاقلانه ، celu (x) = max u2061 (0 ، x) + min u2061 (0 ، α ∗ (exp u2061 (x / α)-1)) text (x) = max (0 ، x) استفاده می کند.+ min (0 ، alpha * ( exp (x / alpha) - 1)) celu (x) = max (0 ، x) + min (0 ، α ∗ (exp (x / α) - 1)).
عناصر عاقلانه ، LeakyRelu (x) = Max u2061 (0 ، x) + negant_slope ∗ min u2061 (0 ، x) text (x) = max (0 ، x) + text را اعمال می کند.* min (0 ، x) leakyrelu (x) = حداکثر (0 ، x) + negant_slope ∗ min (0 ، x)
از نظر عنصری عملکرد prelu (x) = max u2061 (0 ، x) + وزن ∗ min u2061 (0 ، x) text (x) = max (0 ، x) + text * min (0 ،x) prelu (x) = حداکثر (0 ، x) + وزن ∗ min (0 ، x) که در آن وزن یک پارامتر قابل یادگیری است.
relu نشت تصادفی.
نسخه در مکان RRELU ().
واحد خطی دروازه.
هنگامی که آرگومان تقریبی "هیچ" است ، از نظر عنصر از نظر عنصر عملکرد Gelu (x) = x ∗ φ (x) text (x) = x * phi (x) gelu (x) = x ∗ φ (x)
logsigmoid (x i) را به صورت عناصر اعمال می کند (1 1 + exp u2061 (-x i)) text (x_i) = log Left ( frac راست) logsigmoid (x i) = lo g (1 + e x p( - x i) 1)
از عنصر عملکرد سخت کوچک استفاده می کند
با استفاده از عنصر عاقلانه ، tanhshrink (x) = x - tanh (x) text (x) = x - text (x) tanhshrink (x) = x - tanh (x)
با استفاده از عنصر ، عملکرد SoftSign (x) = x 1 + ∣ x ∣ text (x) = frac softsign (x) = 1 + ∣ x ∣ x
با استفاده از عنصر ، تابع softplus (x) = 1 β ∗ log u2061 (1 + exp u2061 (β ∗ x)) text (x) = frac * log (1 + exp ( beta * x)) SoftPlus (x) = β 1 ∗ lo g (1 + exp (β ∗ x)).
یک عملکرد نرم را اعمال می کند.
یک عملکرد SoftMax را اعمال می کند.
عملکرد انقباض نرم Eleminal را اعمال می کند
نمونه هایی از توزیع gumbel-softmax (پیوند 1 پیوند 2) و به صورت اختیاری گسسته می شود.
یک SoftMax و به دنبال آن یک لگاریتم اعمال می شود.
عناصر عاقلانه ، tanh (x) = tanh u2061 (x) = exp u2061 (x)-exp u2061 (-x) exp u2061 (x) + exp u2061 (-x) text (x) = tanh (x)) = frac tanh (x) = tanh (x) = e x p (x) + e x p ( - x) e x p (x) - e x p ( - x)
عملکرد عناصر عناصر sigmoid (x) = 1 1 + exp u2061 (-x) text (x) = frac sigmoid (x) = 1 + e x p (-x) 1 را اعمال می کند.
عملکرد عناصر عناصر را اعمال می کند
عملکرد واحد خطی سیگموئید (SILU) ، از نظر عناصر را اعمال می کند.
عملکرد mish ، عناصر عاقلانه را اعمال می کند.
عادی سازی دسته ای را برای هر کانال در یک دسته از داده ها اعمال می کند.
نرمال سازی گروهی را برای آخرین تعداد مشخصی از ابعاد اعمال می کند.
عادی سازی نمونه را برای هر کانال در هر نمونه داده در یک دسته اعمال می کند.
برای آخرین تعداد مشخصی از ابعاد ، عادی سازی لایه را اعمال می کند.
عادی سازی پاسخ محلی را بر روی یک سیگنال ورودی متشکل از چندین هواپیمای ورودی ، که در آن کانال ها بعد دوم را اشغال می کنند ، اعمال می کند.
اجرای نرمال سازی ورودی ورودی ها از ابعاد مشخص شده را انجام می دهد.
توابع خطی ¶
تحول خطی را به داده های ورودی اعمال می کند: y = x a t + b y = xa^t + b y = x a t + b.
یک تحول دو طرفه را به داده های دریافتی اعمال می کند: y = x 1 t a x 2 + b y = x_1^t a x_2 + b y = x 1 t a x 2 + b
توابع ترک تحصیل ¶
در حین آموزش ، به طور تصادفی برخی از عناصر تانسور ورودی را با احتمال P با استفاده از نمونه های توزیع برنولی صفر می کند.
ترکیبی از آلفا را برای ورودی اعمال می کند.
به طور تصادفی کانال های کل را از بین می برد (یک کانال یک نقشه ویژگی است ، به عنوان مثال
به طور تصادفی صفر از کل کانال ها (یک کانال یک نقشه ویژگی 1D است ، به عنوان مثال ، کانال J J j-th نمونه i i i-th در ورودی batched یک ورودی 1D تنشور است [i ، j] text [i ، j] ورودی [i ، j] ورودی [i ، j]i ، j]) از تانسور ورودی).
به طور تصادفی صفر از کل کانال ها (یک کانال یک نقشه ویژگی 2D است ، به عنوان مثال ، کانال J J j-th نمونه i i i-th در ورودی batched یک ورودی 2D Tensor است [i ، j] text [i ، j] ورودی [i ، j] [i ، j] [i ، j] [i ، j]i ، j]) از تانسور ورودی).
به طور تصادفی صفر از کل کانال ها (یک کانال یک نقشه ویژگی سه بعدی است ، به عنوان مثال ، کانال J J j-th نمونه I I I-TH در ورودی Batched یک ورودی 3D Tensor [i ، j] text [i ، j] ورودی [i ، j] است [i ، j] i ، j]) از تانسور ورودی).
توابع پراکنده
یک جدول جستجوی ساده که در یک فرهنگ لغت و اندازه ثابت به نظر می رسد.
مبالغ ، وسایل یا حداکثر کیسه های تعبیه شده را محاسبه می کند ، بدون آنکه فوری تعبیه های میانی را انجام دهد.
Longtensor را با مقادیر شاخص شکل (*) می گیرد و یک تانسور شکل (*، num_classes) را که در همه جا صفر دارند ، برمی گرداند ، مگر اینکه شاخص بعد آخر با مقدار مربوط به تانسور ورودی مطابقت داشته باشد ، در این حالت 1 خواهد بود.
توابع از راه دور
شباهت کسین را بین x1 و x2 باز می گرداند ، در امتداد کم نور محاسبه می شود.
فاصله p-norm را بین هر جفت بردار ردیف در ورودی محاسبه می کند.
توابع ضرر
عملکردی که آنتروپی متقاطع باینری را بین احتمالات هدف و ورودی اندازه گیری می کند.
عملکردی که اندازه گیری آنتروپی باینری بین هدف و ورود به ورودی را اندازه گیری می کند.
از دست دادن احتمال ورود منفی پواسون.
این معیار از بین رفتن آنتروپی بین سیاهههای ورودی و هدف محاسبه می کند.
از دست دادن طبقه بندی زمانی اتصال دهنده.
از دست دادن احتمال منفی گاوسی.
عملکردی که میانگین اختلاف مقدار مطلق عناصر عاقلانه را در بر می گیرد.
خطای میانگین مربع عناصر عناصر را اندازه گیری می کند.
از دست دادن احتمال ورود منفی.
عملکردی که از یک اصطلاح مربع استفاده می کند اگر خطای عناصر مطلق در زیر دلتا و یک اصطلاح L1 مقیاس دلتا قرار بگیرد.
عملکردی که از یک اصطلاح مربع استفاده می کند اگر خطای عناصر مطلق در زیر بتا قرار بگیرد و یک اصطلاح L1 در غیر این صورت باشد.
توابع بینایی ¶
عناصر را در یک تانسور شکل (∗ ، C × R 2 ، H ، W) (*، C Times R^2 ، H ، W) (∗ ، C × R 2 ، H ، W) به یک تنش شکل شکل دهید.(∗ ، C ، H × R ، W × R) (*، C ، H Times R ، W Times R) (∗ ، C ، H × R ، W × R) ، جایی که R upscale_factor است.
عملکرد پیکسل را با تنظیم مجدد عناصر در یک تانسور شکل (∗ ، C ، H × R ، W × R) معکوس می کند (*، C ، H Times R ، W Times R) (∗ ، C ، H × R ، W× R) به یک تانسور شکل (∗ ، C × R 2 ، H ، W) (*، C Times R^2 ، H ، W) (∗ ، C × R 2 ، H ، W) ، جایی که R استdownscale_factor.
پایین/بالا نمونه ورودی را به اندازه داده شده یا SCALE_FACTOR داده شده نمونه می کند
ورودی را به اندازه داده شده یا scale_factor داده شده نمونه برداری می کند
ورودی را با استفاده از مقادیر پیکسل نزدیک ترین همسایه ها نمونه گیری می کند.
با استفاده از نمونه برداری دوخطی، ورودی را نمونه گیری می کند.
با توجه به یک ورودی و یک شبکه میدان جریان، خروجی را با استفاده از مقادیر ورودی و مکان های پیکسل از شبکه محاسبه می کند.
یک میدان جریان دوبعدی یا سه بعدی (شبکه نمونه برداری)، با توجه به دسته ای از ماتریس های افین تتا ایجاد می کند.
توابع موازی داده (چند GPU، توزیع شده)¶
داده_موازی ¶
ماژول (ورودی) را به صورت موازی در میان GPUهای داده شده در device_ids ارزیابی می کند.
© Copyright 2023, PyTorch Contributors.
ساخته شده با Sphinx با استفاده از تم ارائه شده توسط Read the Docs.
- مشعل. . عملکردی
- توابع پیچیدگی
- توابع ادغام
- مکانیسم های توجه
- توابع فعال سازی غیر خطی
- توابع خطی
- توابع انصراف
- توابع پراکنده
- توابع فاصله
- توابع از دست دادن
- عملکردهای بینایی
- توابع Data Parallel (چند GPU، توزیع شده)
حساب اسلامي...
ما را در سایت حساب اسلامي دنبال می کنید
برچسب : نویسنده : کامران فیوضات بازدید : 24 تاريخ : دوشنبه 23 مرداد 1402 ساعت: 15:35