یکی از مسایل مطرح در ساخت سیستمهای یادگیر نظیر شبکههای عصبی و یا اتوماتای یادگیر، تعیین نرخ یادگیری است. در اکثر موارد از یک الگوریتم کاهشیابنده در طول زمان برای تنظیم نرخ یادگیری استفاده میشود. در این مقاله یک روش جدید برای تغییر نرخ یادگیری و انطباق سیستم یادگیرند چکیده کامل
یکی از مسایل مطرح در ساخت سیستمهای یادگیر نظیر شبکههای عصبی و یا اتوماتای یادگیر، تعیین نرخ یادگیری است. در اکثر موارد از یک الگوریتم کاهشیابنده در طول زمان برای تنظیم نرخ یادگیری استفاده میشود. در این مقاله یک روش جدید برای تغییر نرخ یادگیری و انطباق سیستم یادگیرنده با وضعیت محیط، برای استفاده در اتوماتای یادگیر پیشنهاد شده است. این روش جدید از برخی معیارهای آماری مربوط به توزیع فعلی به دست آمده برای بردار احتمالات متناظر با اقدامهای اتوماتا به منظور تعیین افزایش یا کاهش نرخ یادگیری استفاده میکند. مزیت این روش در آن است که بر خلاف روشهای موجود فعلی، در طول فرایند یادگیری هم افزایش و هم کاهش مقدار نرخ یادگیری را - بسته به نتایج مقایسه معیارهای آماری - انجام میدهد و به صورت خودکار نرخ یادگیری را تنظیم میکند.
ضمن تشریح مبانی ریاضی این الگوریتم جدید، عملکرد این الگوریتم را در محیطهای تصادفی نمونه بررسی کرده و با مقایسه نتایج به دست آمده نشان دادهایم روش پیشنهادی جدید به دلیل این که در طول زمان یادگیری، همزمان و بر اساس معیارهای تعیینشده، افزایش و کاهش نرخ یادگیری را انجام میدهد، از انعطافپذیری بیشتری نسبت به روشهای قبلی برای انطباق با محیطهای تصادفی پویا برخوردار است و مقادیر یاد گرفته شده به مقادیر حقیقی نزدیکتر هستند.
پرونده مقاله
در این مقاله، یک ساختار جدید شبکهای از آتاماتاهای یادگیر موسوم به آتاماتای یادگیر توزیعشده توسعهیافته معرفی شده و سپس الگوریتمی مبتنی بر این ساختار شبکهای برای حل مسأله زیرگراف بهینه در گرافهای تصادفی با یالهای وزندار از طریق نمونهگیری ارائه میشود. نشان داده شد چکیده کامل
در این مقاله، یک ساختار جدید شبکهای از آتاماتاهای یادگیر موسوم به آتاماتای یادگیر توزیعشده توسعهیافته معرفی شده و سپس الگوریتمی مبتنی بر این ساختار شبکهای برای حل مسأله زیرگراف بهینه در گرافهای تصادفی با یالهای وزندار از طریق نمونهگیری ارائه میشود. نشان داده شده که ساختار شبکهای جدید پیشنهادی قادر به حل مسایل بهینهسازی روی گرافهای تصادفی از طریق نمونهگیری با تعداد نمونه کمتر نسبت به روش نمونهگیری استاندارد است. علاوه بر این، اثباتی برای همگرایی آن به جواب بهینه ارائه شده و نشان داده میشود که ساختار شبکهای پیشنهادی همواره با احتمال 1 به جواب بهینه همگرا میگردد.
پرونده مقاله
در اين مقاله يک آتاماتاي توزيعشده جديد به نام آتاماتاي يادگير توزيعشده توسعهيافته براي يادگيري توزيع توأم مجموعهاي از متغيرهاي تصادفي معرفي خواهد شد. اين شبکه از آتاماتاها در محيطهايي که پاسخ محيط به مجموعهاي از اقدامات انجامشده توسط آتاماتا، مستقل از يکديگر نبود چکیده کامل
در اين مقاله يک آتاماتاي توزيعشده جديد به نام آتاماتاي يادگير توزيعشده توسعهيافته براي يادگيري توزيع توأم مجموعهاي از متغيرهاي تصادفي معرفي خواهد شد. اين شبکه از آتاماتاها در محيطهايي که پاسخ محيط به مجموعهاي از اقدامات انجامشده توسط آتاماتا، مستقل از يکديگر نبوده و نوعي وابستگي شرطي ميان اين پاسخها حاکم باشد، کاربرد دارد. نشان داده شده که اين آتاماتاي جديد قادر است تخميني از توزيع شرطي اقدامها را فرا بگيرد. در ادامه چارچوبی مبتني بر آتاماتاي يادگير توزيعشده جديد پيشنهادي، براي حل مسأله يادگيري برخط پارامترهاي یک شبکه بیزی ارائه شده است. اين چارچوب با دادهها و شواهد جديد منطبق شده و عمليات به روز رساني پارامترها را انجام ميدهد. با بررسيهاي رياضي و آزمايشهاي عملي روي شبکههاي نمونه، نشان دادهايم که اين مدل جديد قادر است با تخميني با دقت برابر با EM، يادگيري پارامترهاي يک شبکه بيزي را انجام دهد. علاوه بر ويژگي افتراقیبودن و يادگيري برخط، اين ساختار جديد با شرايطي که دادهها ناکامل باشند نيز سازگار است و به دليل استفاده از روابط يادگيري خطي و مبتني بر آتاماتاي يادگير، سربار محاسباتي کمي نيز دارد.
پرونده مقاله