د الګوریتم hyperparameters څه دي؟

/ / خپور شوی مصنوعي استخباراتو, EITC/AI/GCML د ګوګل بادل ماشین زده کړه, پېژندنه, د ماشین زده کړه څه ده

د ماشین زده کړې په برخه کې، په ځانګړې توګه د مصنوعي استخباراتو (AI) په شرایطو کې او د کلاوډ میشته پلیټ فارمونو لکه د ګوګل کلاوډ ماشین زده کړې، هایپرپرامیټرونه د الګوریتم فعالیت او موثریت کې مهم رول لوبوي. Hyperparameters هغه بهرني تشکیلات دي چې د روزنې پروسې له پیل څخه مخکې ټاکل شوي، کوم چې د زده کړې الګوریتم چلند اداره کوي او په مستقیم ډول د ماډل فعالیت اغیزه کوي.

د Hyperparameters د پوهیدو لپاره، دا اړینه ده چې دوی د پیرامیټونو څخه توپیر وکړي. پارامترونه موډل ته داخلي دي او د زده کړې پروسې په جریان کې د روزنې معلوماتو څخه زده کیږي. د پیرامیټونو په مثالونو کې په عصبي شبکو کې وزنونه یا د خطي ریګریشن ماډلونو کې کوفیفینټ شامل دي. هایپرپرامیټرونه، له بلې خوا، د روزنې معلوماتو څخه نه زده کیږي مګر د تمرین کونکي لخوا وړاندې شوي. دوی د ماډل روزنې پروسې او جوړښت کنټرولوي.

د Hyperparameters ډولونه

1. ماډل Hyperparameters: دا د ماډل جوړښت ټاکي. د مثال په توګه، په عصبي شبکو کې، هایپر پارامیټرونه د پرتونو شمیر او په هر پرت کې د نیورونونو شمیر شامل دي. د پریکړې په ونو کې، هایپر پارامیټر ممکن د ونې اعظمي ژوروالی یا د نوډ ویشلو لپاره د نمونو لږترلږه شمیر شامل وي.

2. د الګوریتم Hyperparameters: دا پخپله د زده کړې پروسه کنټرولوي. په مثالونو کې د تدریجي نزول الګوریتمونو کې د زده کړې کچه، د مینی بیچ تدریجي نزول کې د بست اندازه، او د روزنې لپاره د وختونو شمیر شامل دي.

د Hyperparameters مثالونه

1. د زده کړې کچه: دا د اصلاح کولو الګوریتمونو کې یو مهم هایپرپرامیټر دی لکه د تدریجي نزول. دا په هر تکرار کې د ګام اندازه ټاکي پداسې حال کې چې د لږ تر لږه ضایع فعالیت په لور حرکت کوي. د زده کړې لوړه کچه ممکن د دې لامل شي چې ماډل خورا ګړندي یو فرعي غوره حل ته واړوي ، پداسې حال کې چې د زده کړې ټیټ نرخ ممکن د اوږدې روزنې پروسې پایله ولري چې ممکن په محلي مینیما کې ودریږي.

2. د بست اندازه: په stochastic gradient descent (SGD) او د هغې په ډولونو کې، د بیچ اندازه د روزنې مثالونو شمیر دی چې په یو تکرار کې کارول کیږي. د یوې کوچنۍ بستې اندازه د تدریجي دقیق اټکل وړاندې کوي مګر کیدای شي په کمپیوټري توګه ګران او شور وي. برعکس، د لوی بست اندازه کولی شي محاسبه ګړندۍ کړي مګر ممکن د لږ دقیق تدریجي اټکلونو لامل شي.

3. د Epochs شمیر: دا هایپرپرامیټر هغه وخت مشخصوي چې د زده کړې الګوریتم به د ټول روزنې ډیټا سیټ له لارې کار وکړي. ډیر دورې کولی شي د غوره زده کړې لامل شي مګر د اضافي فټینګ خطر هم زیاتوي که چیرې ماډل د روزنې ډیټا کې شور زده کړي.

4. د وتلو کچه: په عصبي شبکو کې، پریښودل د منظم کولو تخنیک دی چیرې چې په تصادفي ډول غوره شوي نیورونونه د روزنې پرمهال له پامه غورځول کیږي. د وتلو کچه د نیورونونو د راټیټیدو برخه ده. دا د دې ډاډ ترلاسه کولو سره د اضافي فټینګ مخنیوي کې مرسته کوي چې شبکه په ځانګړي نیورون باندې خورا ډیر تکیه نه کوي.

5. د تنظیم کولو پیرامیټونه: پدې کې L1 او L2 د منظم کولو کوفیفینټونه شامل دي چې په ماډل کې لوی وزنونه مجازات کوي. منظم کول د لوی وزنونو لپاره د جریمې اضافه کولو سره د اضافي فټینګ مخنیوي کې مرسته کوي ، پدې توګه ساده ماډل هڅوي.

Hyperparameter Tuning

د Hyperparameter Tuning د زده کړې الګوریتم لپاره د هایپرپرامیټرونو غوره سیټ موندلو پروسه ده. دا مهمه ده ځکه چې د هایپرپرامیټرونو انتخاب کولی شي د ماډل فعالیت باندې د پام وړ اغیزه وکړي. د هایپرپرامیټر ټونینګ لپاره عام میتودونه پدې کې شامل دي:

1. د ګریډ لټون: په دې طریقه کې د هایپر پارامیټرونو سیټ تعریف کول او د ټولو ممکنه ترکیبونو هڅه کول شامل دي. پداسې حال کې چې بشپړ وي، دا د کمپیوټري پلوه ګران او وخت مصرف کیدی شي.

2. تصادفي لټون: د دې پرځای چې د ټولو ترکیبونو هڅه وکړئ، تصادفي لټون په تصادفي ډول د مخکیني ټاکل شوي ځای څخه د هایپرپرامیټر ترکیبونه نمونه کوي. دا طریقه اکثرا د ګریډ لټون په پرتله خورا اغیزمنه ده او کولی شي د لږ تکرار سره ښه هایپرپرامیټرونه ومومي.

3. د بایسیان اصلاح کول: دا یو ډیر پیچلي میتود دی چې د هدف فعالیت احتمالي ماډل رامینځته کوي او د ارزونې لپاره خورا امید لرونکي هایپرپرامیټرونو غوره کولو لپاره کاروي. دا اکتشاف او استخراج توازن کوي ​​ترڅو غوره هایپرپرامیټرونه په مؤثره توګه ومومي.

4. Hyperband: دا طریقه د تصادفي لټون سره د پیل مخه نیسي. دا د ډیری تشکیلاتو سره پیل کیږي او په تدریجي ډول د لټون ځای کموي د خراب فعالیت تنظیم کولو مخه نیولو سره.

عملي مثالونه

د ګوګل کلاوډ ماشین زده کړې کې د TensorFlow چوکاټ په کارولو سره د عکس ډلبندۍ لپاره د عصبي شبکې ماډل په پام کې ونیسئ. لاندې هایپرپرامیټرونه په پام کې نیول کیدی شي:

1. د زده کړې کچه: یو عادي سلسله کیدای شي [0.001, 0.01, 0.1] وي. مطلوب ارزښت په ځانګړي ډیټاسیټ او ماډل جوړښت پورې اړه لري.

2. د بست اندازه: په عامو ارزښتونو کې 32، 64 او 128 شامل دي. انتخاب په شته کمپیوټري سرچینو او د ډیټاسیټ اندازې پورې اړه لري.

3. د Epochs شمیر: دا کیدای شي له 10 څخه تر 100 یا ډیرو پورې وي، پدې پورې اړه لري چې ماډل څومره ژر سره یوځای کیږي.

4. د وتلو کچه: ارزښتونه لکه 0.2، 0.5، او 0.7 ممکن د انډر فټینګ او ډیر فټینګ ترمینځ غوره تجارت موندلو لپاره ازمول شي.

5. د منظم کولو کوفیینټ: د L2 منظم کولو لپاره، ارزښتونه لکه 0.0001، 0.001، او 0.01 په پام کې نیول کیدی شي.

د ماډل فعالیت باندې اغیزه

د ماډل فعالیت باندې د هایپرپرامیټر اغیزې خورا ژورې کیدی شي. د مثال په توګه، د زده کړې نامناسب نرخ ممکن د دې لامل شي چې ماډل لږترلږه شاوخوا وګرځي یا ډیر ورو ورو بدل شي. په ورته ډول، د ناکافي بست اندازه کیدای شي د شور د تدریجي اټکلونو المل شي، چې د روزنې پروسې ثبات اغیزه کوي. د تنظیم کولو پیرامیټونه د ډیر فټینګ کنټرول لپاره مهم دي ، په ځانګړي توګه په پیچلي ماډلونو کې د ډیری پیرامیټونو سره.

وسیلې او چوکاټونه

ډیری وسیلې او چوکاټونه د هایپرپرامیټر ټونینګ اسانه کوي. د ګوګل کلاوډ ماشین زده کړه خدمتونه وړاندې کوي لکه د AI پلیټ فارم هایپرپرامیټر ټونینګ ، کوم چې د ګوګل زیربنا په کارولو سره د غوره هایپرپرامیټرونو لټون اتومات کوي. نور مشهور چوکاټونه عبارت دي له:

1. کیراس تونر: د کیرا لپاره توسیع چې د اسانه هایپرپرامیټر اصلاح کولو ته اجازه ورکوي.
2. غوره: د موثر نمونې اخیستلو او شاخه کولو ستراتیژیو په کارولو سره د هایپرپرامیټر اصلاح کولو اتومات کولو لپاره د سافټویر چوکاټ.
3. د Scikit-learn's GridSearchCV او RandomizedSearchCV: دا د سکیکټ زده کړې موډلونو کې د هایپرپرامیټر ټونینګ لپاره ساده مګر پیاوړي وسیلې دي.

غوره تمرینات

1. د سخت لټون سره پیل کړئ: د یوې پراخې پلټنې سره د هایپر پارامیټرونو پراخه لړۍ پیل کړئ ترڅو د ماډل په فعالیت باندې د دوی اغیزې پوه شي.
2. لټون اصلاح کړئ: یوځل چې یوه امید لرونکې سیمه وپیژندل شي، په دې سیمه کې د غوره هایپرپرامیټرونو د مینځلو لپاره ښه لټون ترسره کړئ.
3. د کراس تایید وکاروئ: د کراس-تثبیت کار وکاروئ ترڅو ډاډ ترلاسه شي چې هایپر پارامیټرونه د نه لیدل شوي معلوماتو لپاره ښه عمومي کوي.
4. د overfitting لپاره څارنه: د اعتباري معلوماتو په اړه د ماډل فعالیت ته پام وکړئ ترڅو د ډیر فټینګ دمخه کشف کړئ.
5. د اتوماتیک وسایلو څخه ګټه واخلئ: د وخت او کمپیوټري سرچینو خوندي کولو لپاره د اتوماتیک هایپرپرامیټر ټونینګ وسیلې وکاروئ.

Hyperparameters د ماشین زده کړې یو بنسټیز اړخ دی چې د پام وړ غور او توزیع ته اړتیا لري. دوی د روزنې پروسې او د ماډلونو جوړښت اداره کوي، د پام وړ د دوی فعالیت او عمومي کولو وړتیا اغیزه کوي. د هایپرپرامیټر مؤثره ټیوننګ کولی شي د ماډل دقت او موثریت کې د پام وړ پرمختګ لامل شي ، دا د ماشین زده کړې کاري فلو کې یو مهم ګام جوړوي.

په اړه نورې وروستۍ پوښتنې او ځوابونه EITC/AI/GCML د ګوګل بادل ماشین زده کړه:

نورې پوښتنې او ځوابونه په EITC/AI/GCML د ګوګل کلاوډ ماشین زده کړې کې وګورئ

نورې پوښتنې او ځوابونه:

لاندی ځړول شوی: , , , , ,