Regulyarizatorlar optimallashtirish vaqtida qatlam parametrlariga yoki qatlam faolligiga jazo qoʻllash imkonini beradi. Ushbu jarimalar tarmoq optimallashtiradigan yo'qotish funktsiyasiga jamlangan. Tartibga solish uchun jarimalar har bir qatlam asosida qo'llaniladi.
Faoliyatni tartibga soluvchi nima?
Faoliyatni tartibga soluvchi tarmoq chiqishi funksiyasi sifatida ishlaydi va asosan yashirin birliklarni tartibga solish uchun ishlatiladi, vazni tartibga soluvchi esa, nomi aytilganidek, og'irliklarda ishlaydi. (masalan, ularni parchalash).
Faoliyatni tartibga soluvchi vositani qachon ishlatishim kerak?
Agar siz chiqish funksiyasiorqali oʻtishini (yoki kesishmaga yaqinroq boʻlishini) xohlasangiz, chiziqli tartibga soluvchidan foydalanishingiz mumkin. Chiqarish kichikroq (yoki 0 ga yaqinroq) bo'lishini istasangiz, faollikni tartibga soluvchidan foydalanishingiz mumkin.
Keras regulizerdan qanday foydalanaman?
Qatlamga tartibga soluvchi qoʻshish uchun sizda qatlamning kalit soʻzi “kernel_regularizer” argumentiga afzal tartibga solish texnikasidan oʻtish kifoya. Keras tartibga solishni amalga oshirish usullari tartibga solish giperparametri qiymatini ifodalovchi parametrni taqdim etishi mumkin.
Yadro va tarafkashlik nima?
Zich sinf
Dense operatsiyani amalga oshiradi: chiqish=faollashtirish(nuqta(kirish, yadro) + bias) bunda faollashtirish faollashtirish argumenti sifatida uzatiladigan element boʻyicha faollashtirish funksiyasi, yadroqatlami tomonidan yaratilgan og'irliklar matritsasi vatarafkashlik - qatlam tomonidan yaratilgan chiziqli vektor (faqat foydalanish_bias rost boʻlsa amal qiladi).
