با توجه به شکل میتوان ملاحظه کرد که تابع گوسی نمایی که به عنوان تابع پاسخ نرون در نظر گرفته شده است، حول میانه u به صورت شعاعی متقارن است. باید توجه داشت که در شبکه های با تابع شعاعمبنا هیچ محدودیتی در تعداد نرونهای ورودی و خروجی وجود ندارد. هرچند تجسم فضایی منحنی نمایش تابع پاسخ نرونهای لایه مخفی در فضاهای بیش از سه بعد ممکن نیست، ولی مسائل مطرحشده در مورد آنها صادق میباشد. در این حالت هم هر لایه پنهان دارای پاسخی به فرم رابطه خواهد بود.
(۳-۱۳)
در رابطه فوق، نماد T نشاندهنده ترانهاده بردار، x بردار ستونی ورودی و uj بردار مرکز ثقل مربوط به نرون لایه مخفی میباشد که معادل با یک بردار ورودی آموزشی است(باید توجه نمود که در صورت عدم استفاده از خوشهبندی برای بردارهای ورودی آموزشی باید یک نرون در لایه مخفی وجود داشته باشد). اگر هر یک از بردارهای ورودی و بردارهای مرکز ثقل را به عنوان یک نقطه در یک فضای n بعدی تلقی شود، مقدار پاسخ نرونهای لایه مخفی یعنی با افزایش فاصله آن دو نقطه از هم، بهشدت کاهش مییابد. نکته مهم در طراحی شبکه های با تابع شعاعمبنا این است که توابع پاسخ نرونها باید تمام نواحی معنیدار و مهم فضای بردارهای ورودی را پوشش دهند.
بردار ماشین تکیهگاه[۲۱](SVM)
جداکنندههای خطی[۲۲]
یک جداکننده اغلب به صورت یک تابع نشان داده میشود. وقتی دو کلاس وجود داشته باشد٬ اگر f(x)≥۰، یک داده به کلاس مثبت نسبت داده میشود؛ در غیر این صورت به کلاس منفی تعلق دارد. تابع خطی تابعی است که از ترکیب خطی ورودی x به صورت رابطه تعریف میشود:
(۳-۱۴)
اگر یک جداکنندهی خطی بتوان پیدا کرد، بهنحویکه برای تمام i ها رابطهی برقرار باشد، آنگاه مجموعه ای از نقاط (x,y) که ، به صورت خطی قابل جداسازی هستند.
(۳-۱۵)
ضرایب لاگرانژ: ضرایب لاگرانژ یک استراتژی برای پیدا کردن مینیمم یا ماکزیمم یک تابع با توجه به محدودیتها است. مثلاً در شکل زیر، هدف یافتن x و y بهگونهای است که با توجه به محدودیت g(x,y)=c، f(x,y) ماکزیمم شود.
g(x,y)=c
شکل ۳-۱۰- نمایی از استفاده از ضرایب لاگرانژ
در ادامه متغیر جدید ضریب لاگرانژ(λ) معرفی می شود. تابع لاگرانژ به صورت تعریف می شود:
(۳-۱۶)