מודל ONLINE לומדמורה 1. כל ניתן לחישוב בזמן פולינומיאלי 2. אחרי מספר פולינומיאלי של טעיות ( ) הלומד לא טועה ז"א שווה ל- Littlestone 1988

מודל EXACT Angluin 1987 לומדמורה 1. כל ניתן לחישוב בזמן פולינומיאלי 2. אחרי מספר פולינומיאלי של EQ הלומד מוצא את ז"א שווה ל- EQ=Equivalence Queryשאלתת השקילות

דוגמא למידה במודל ONLINE למידה במודל EXACT חיפוש בינרי

משפט ניתן ללמוד C במודל EXACT אם"ם ניתן ללמוד את C במודל ONLINE לומדמורה הוכחה יהי A אלגוריתם במודל EXACT ל- C תריץ את A אם התשובה no תחזיר את התשובה ל A כוון שני...

משפט אם ניתן ללמוד C במודל EXACT אזי ניתן ללמוד את C במודל הלמידה מדוגמאות הוכחה יהי A אלגוריתם במודל EXACT ל- C שרץ בזמן poly(s,size C ( f )) נריץ את A וכל פעם ש-A שואל EQ(h) האלגוריתם מחפש דוגמא נגדית מ- S ז"א נגדיר אלגוריתם B שמקבל קלט S – אוסף של דוגמאות מקרה א ואז אפשר להוציא את מקרה ב A עוצר ומוציא היפטזה אקוולטית ל-

ONLINEEXACT EXAMPLE

דוגמא 2: טרם בוליאני Term

אלגוריתם ל- Term Input S L:={x 1,x 1,x 2,x 2,…,x n,x n } EQ(L)  a If a = YES return(L) Remove l from L if l(a i )=0 זמן למידה מתאימה Proper מספר EQ

בשלב i נסמן הדוגמא הנגדית מקיימת לא נמחק ליטרל שנמצא ב-f נמחק ב- h לפחות ליטרל אחד

משפט הדואליות 1 :אם ניתן ללמוד C ב-EXACT בזמן T ו- q שאלתות אזי ניתן ללמוד C D מדוגמאות בזמן O(T) ו- q שאלתות. משפט הדואליות 2 :C ניתנת ללמידה ב-EXACT אם"ם C D ניתנת ללמידה ב-EXACT. לומד ל- C D מורה לומד ל- C

משפט ההרכבה תהי C מחלקת פונקציות בוליניות תהיסדרת פונקציות כך שכל g i ניתנת לחישוב בזמן T G. אם C ניתנת ללמידה ב-EXACT בזמן T(n) ו-q(n) שאלתות אזי ניתן ללמידה ב-EXACT בזמן O( T(t)+q(t) t T G ) אלגוריתם הלימידה מוציא היפוטזה בגודל poly(t) ו- O(q(t)) שאלתות

הוכחה: יהי A(n) אלגוריתם לימידה ל - C נגדיר אלגוריתם B

דוגמא 3 זמן לימידת Term מספר EQ זמן

WINNOW יהי P מספר הדוגמאות החיוביות (צעד 3) ו - N השליליות (צעד 4)

בדוגמא חיובית מכוון ש- בדוגמא חיובית בדוגמא שלילית סכום המשקלות בדוגמא שלילית

חזרה לדוגמא 3 זמן לימידת Term מספר EQ זמן

דוגמא 4 רשימת החלטה (DL) Decision list נוסיף משתנה ונגדיר רשימה מונוטונית נגדיר רשימה מונוטונית דחוסה.אם למה אם ניתן ללמוד רשימה מונוטונית דחוסה אזי ניתן ללמוד רשימת החלטה

נניח בשלב מסוים באלגוריתם יש לנו היפטזה כאשר כאשר שואלים

כאשר כאשר שואלים כל המשתנים ב- אפס ב- קיים משתנה ב- אחד ב- משתנה זה לא נמצא ב- נוציא משתנה זה מ- עדיין מתקיימת התכונה

נתחיל עם היפטזה אחרי כל EQ נמחק אחד מהמשתנים באחד מה- לכן מספר ה- EQ הוא לכל היותר זמן

משפט : ניתן ללמוד DT ב-EXACT בזמן האלגוריתם מוציא log s-DL בגודל משפט : ניתן ללמוד DNF מדוגמאות בזמן האלגוריתם מוציא בגודל

חסם עליון על מספר שאלתות השקילות משפט : ניתן ללמוד כל מחלקה C ב-EXACT עם log|C| שאלתות שקילות (וזמן אקספוננציאלי). הוכחה : לקבוצה דוגמאות S נגדיר

דוגמא DNF DNF בגודל s משפט : ניתן ללמוד DNF ב-EXACT עם שאלתות שקילות (וזמן אקספוננציאלי).

אלגוריתם PERCEPTRON

משפט PERCEPTRON הוכחה

משפט PERCEPTRON הוכחה

משפט PERCEPTRON הוכחה

שימוש באלגוריתם PERCEPTRON The Department of Computer Science is the second largest academic unit in the Technion, with about 1,300 under-graduate students ( about one-eighth of the total number of Technion students) and more than 200 graduate students. It comprises about 50 faculty members of international repute with expertise in a wide variety of fields. It is the largest department of computer science in Israel and supplies the Israeli hi-tech industry with the highest caliber manpower דף אינטרנט Spam +1 Not Spam -1 זבל הגדרת משתנים Attributes

Spam +1 Not Spam -1

Expert Advice נתונים n מומחים Exp 1 Exp 2 Exp 3 Exp n ME

Weighted Majority Algorithm Exp 1 Exp 2 Exp 3 Exp n