1. Instructor : Saeed Shiry & Mitchell Ch. 8
Instance Based Learning-2
یادگیری بر پایه نمونه
Instructor : Saeed Shiry
& Mitchell Ch. 8

2. Radial Basis Functions
روشی برای تقریب توابع است.
یادگیری با RBF ارتباط نزدیکی با شبکه های عصبی مصنوعی و Distance-weighted regression دارد.
در این روش فرضیه یادگرفته شده بصورت زیر میباشد:
در این روش از تعداد k تابع کرنل برای تقریب تابع استفاده میشود .تابع کرنل معمولا بصورت یک تابع گاوسی انتخاب میشود:

3. Radial Basis Functions
نشان داده شده است که در صورتیکه تعداد کافی تابع کرنل گاوسی انتخاب شوند، با استفاده از RBF میتوان هر تابعی را با خطای نسبتا کمی تقریب زد.
رابطه فوق را میتوان به یک شبکه عصبی دو لایه تشبیه نمود که
لایه اول مقادیر کرنل ها و
لایه دوم مجموع آنها را محاسبه مینماید.
f(x) W0 w1 wk w2 … 1 K1 K2 Kk …
x1 x x xn

4. آموزش RBF
در صورت داشتن مجموعه ای از مثالهای آموزشی ، آموزش RBF در دو مرحله صورت میگیرد:
تعداد توابع کرنل انتخاب میشود. بعبارت دیگر با انتخاب مقداری برای ,K مقادیر xu , s2u برای هر تابع کرنل تعیین میگردد.
وزنهای شبکه طوری انتخاب میشوند که شبکه با داده های آموزشی منطبق گردد. اینکار با استفاده از رابطه خطای کلی زیر انجام میشود

5. نحوه انتخاب تعداد واحدهای مخفی
نحوه انتخاب تعداد واحدهای مخفی
بازا هر مثال آموزشی<xi,f(xi)> یک کرنل گاوسی تخصیص داده میشود.
این تابع به مرکزیت xi بوده و برای تمامی آنها مقدار یکسان s2 در نظر گرفته میشود.
شبکه RBF طوری آموزش داده میشود که بتواند تقریبی کلی برای تابع هدف پیدا کند. توجه شود که هر مثال آموزشی فقط میتواند در همسایگی xi تابع تقریب زده شده را تحت تاثیر قرار دهد.
وزنها طوری محاسبه میشوند که بازا هر مثال آموزشی<xi,f(xi)> درخروجی شبکه رابطه f’(x)=f(x) برقرار باشد. بدین ترتیب شبکه RBF بطور کامل با مثالهای آموزشی انطباق خواهد داشت.

6. نحوه انتخاب تعداد واحدهای مخفی
نحوه انتخاب تعداد واحدهای مخفی
در این روش تعداد تابع کرنل انتخاب شده کمتر از تعداد مثالهاست.
این روش بازدهی بیشتری از روش قبلی دارد.
مرکز کرنل ها را میتوان بصورت یکنواخت انتخاب نمود.
در حالتیکه توزیع نمونه ها غیر یکنواخت باشند میتوان توزیع کرنل ها را هم بصورت مشابهی انتخاب نمود.
یک راه دیگر کلاسترینگ نمونه ها و تخصیص یک کرنل به هر کلاستر است. K1 K2

7. ویژگی های شبکه RBF
آموزش این شبکه ها آسانتر از شبکه های عصبی معمولی است که از روش Back Propagation استفاده میکنند.
این شبکه یک تقریب کلی از تابع را با استفاده از مجموع تقریبات محلی محاسبه میکند.

8. Case Based Reasoning

9. Case Based Reasoning سه خاصیت اصلی سیستم های یادگیری بر پایه نمونه:
سه خاصیت اصلی سیستم های یادگیری بر پایه نمونه:
روشهای یادگیری تنبلی هستند که عمل تعمیم تا مشاهده نمونه جدید به تعویق میافتد
برای دسته بندی نمونه جدید ازمثالهای مشابه استفاده میشود
نمونه ها توسط نقاطی با مقادیر حقیقی در فضای n بعدی نشان داده میشوند
روش یادگیریCBR ازدو ویژگی اول تبعیت میکند در حالی که برای نمایش نمونه ها از روش سمبلیک استفاده مینماید. به همین دلیل بدست آوردن نمونه های مشابه مشکل تر است

10. مسائلی را که به شیوه CBR حل میکنیم
پزشکی:
اغلب پزشکان نمونه های قبلی بیماران را بخاطر سپرده و در مواجهه با بیماران جدید از تجربه گذشته سود میبرند.
حقوق:
قضاوت درکشورهائی مثل امریکا و انگلستان بر اساس اختلافات گذشته و رای هائی که برای آنها صادر شده است انجام میشود.
بنگاه مسکن:
معمولا قیمت خانه ها بر اساس خانه های مشابهی که اخیرا فروش رفته اند تعیین میگردند.

11. اجزا سیستم CBR Case-base Retrieval of relevant cases
یک دیتا بیس از مثالهای قبلی
Retrieval of relevant cases
استفاده از ایندکس برای مثالهای موجود در دیتا بیس
قابلیت تطبیق با شبیه ترین مثالها
بدست آوردن راه حل با استفاده از مثالهای مشابه
Adaptation of solution
تغییر دادن راه حل بنحویکه اختلاف بین مثال مورد بررسی و نمونه های پیدا شده در دیتا بیس را در نظر بگیرد.

12. CBR Solving Problems Solution Review Retain Database Adapt Retrieve
Similar
New
Problem

13. مثالی از :CBR تعیین نرخ مسکن
Put this slide on the OHP
Test instance

14. چگونگی ایجاد قوانین
مثالهائی را پیدا میکنیم که تا حد زیادی شبیه هم باشند
case 1 and case 2
قانون : R1 اگر تعداد recep-rooms از 2 به 1 تغییر کند قیمت را £5,000 کاهش دهید.
case 3 and case 4
قانون : R2 اگر Type از semi به terraced تغییر کند قیمت را £7,000 کاهش دهید.

15. انطباق
مثال مورد بررسی را با مثالهای ذخیره شده مقایسه کرده و موارد انطباق را مشخص میکنیم:
matches(5,1) = 3
matches(5,2) = 3
matches(5,3) = 2
matches(5,4) = 1
The matching items in case 1 are
number of bedrooms
number of floors
condition
The matching items in case 2 are
number of reception rooms
Suppose for the sake of argument that we have a rule in the rule-base that says (within reason) that the number of reception rooms is more important than the condition.
So we would say that case 2 was the best match and estimate the price of property 5 as £25,000
Estimate price of case 5 is £25,000

16. Adaptation قانون 2 معکوس میشود: اعمال قانون معکوس
قانون : R2 اگر Type از semi به terraced تغییر کند قیمت را £7,000 افزایش دهید.
اعمال قانون معکوس
پیش بینی جدید از قیمت مسکن مورد نظر £32,000 است
Adapting may involve adapting rule in the rule-base and then applying them to the closest matching case.
Thus we finally suggest that property 5 should fetch £32,000

17. یادگیری بدین ترتیب یک case جدید و یک قیمت جدید تخمین زده شده است.
در این مرحله چیزی به دیتا بیس اضافه نمیشود.
اگر در آینده این خانه به قیمت £35,000 فروش برود این مورد به عنوان یک case جدید اضاقه شده و یک قانون جدید هم اضافه میشود
اگر از 8 به 7 تغییر کند قیمت را به میزان £3,000 اضافه میشود.

18. مثالی از CADET : CBR
سیستم CADET از CBR برای طراحی مفهومی ابزارهای مکانیکی ساده مثل شیر آب استفاده میکند.
کتابخانه این سیستم دارای 75 طرح مکانیکی قبلا طراحی شده است
مثالها بصورت <qualitative function, mechanical structure> ذخیره میشوند.
سوال ارائه شده به سیستم: عملکرد مورد نیاز
هدف: یافتن ساختار مکانیکی مناسب

19. مثالی از CADET : CBR یک case ذخیره شده: لوله با اتصال T Q1 + Q1, T1 Q3
Structure ُ
Function
عملکرد مثال ذخیره شده بصورت رابطه کمی بین مقدار آب عبوری در ورودیها و خروجیهای لوله و درجه حرارت بیان میشود. Q1 Q2 +
Q1, T1
T = temperature
Q = waterflow Q3 + +
Q3, T3 T1 T2 T3 +
Q2, T2
علامت + به این معناست که با افزایش جریان آب در Q1 مقدار آن در Q3 نیز افزایش میابد.

20. مثالی از CADET : CBR یک مسئله طراحی جدید: Structure ? + + Ct Cf Qc Qh
آب سرد + + Ct Cf
سیگنال کنترل حرارت Qc Qh Qm
آب مخلوط + + + +
سیگنال کنترل جریان آب +
آب گرم + Tc Th Tm +

21. مثالی از CADET : CBR
سیستم CADET برای حل مسئله آنرا به گرافهای جزئی تقسیم کرده و بدنبال مثالهائی میگردد که با آن مشابه باشند.
سپس راه حلهای پیدا شده را با استفاده از یک سیستم Knowledge based با هم ترکیب میکند تا به نتیجه مطلوب برسد.
همچنین با استفاده از دانش قبلی درصورت لزوم در مورد روابط فیزیکی استنتاج نیز میکند: + + +
َAB is rewriten as AxB

22. موارد استفاده
معمولا CBR در مواقعی استفاده میشود که تئوری مناسبی وجود ندارد و یا اینکه امکان مدل کردن مسئله توسط افراد خبره میسر نیست.
همچنین در مواردیکه تعداد استثنائات مثالها از قوانین زیاد است این روش میتواند موثر باشد.
سیستم های CBR بسرعت آماده استفاده میشوند و با افزایش مثالها قدرت آنها نیز بیشتر میشود.

23. مشکلات
وقتی که هیچ مثال مشابهی در دیتا بیس نباشد راه حل CBR نامناسب خواهد بود.
CBR قادر نیست تا یک مثال جدید را تشخیص دهد.
بازیابی و ترکیب case ها برای یافتن پاسخی به سوال فعلی ممکن است نیازمند روشهای Knowledge based reasoning و روشهای حل مسئله search-intensive باشد.