בהסתברות לפחות למצא בעיה במודל PAC עבור בהסתברות ε הפונקציה f טועה מודל ONLINE 1. אחרי כל טעות הפונקציה משתפרת 2. מספר הטעיות קטן

מודל ONLINE לומדמורה 1. כל ניתן לחישוב בזמן פולינומיאלי 2. אחרי מספר פולינומיאלי של טעיות ( ) הלומד לא טועה ז"א שווה ל- Littlestone 1988

מודל EXACT Angluin 1987 לומדמורה 1. כל ניתן לחישוב בזמן פולינומיאלי 2. אחרי מספר פולינומיאלי של EQ הלומד מוצא את ז"א שווה ל- EQ=Equivalence Queryשאלתת השקילות

דוגמא למידה במודל ONLINE למידה במודל EXACT חיפוש בינרי

משפט ניתן ללמוד C במודל EXACT אם"ם ניתן ללמוד את C במודל ONLINE לומדמורה הוכחה יהי A אלגוריתם במודל EXACT ל- C תריץ את A אם התשובה no תחזיר את התשובה ל A כוון שני...

משפט אם ניתן ללמוד C במודל EXACT אזי ניתן ללמוד את C במודל PAC הוכחה יהי A אלגוריתם במודל EXACT ל- C שרץ בזמן poly(s,size C ( f )) נריץ את A וכל פעם ש-A שואל EQ(h) האלגוריתם מחפש דוגמא נגדית מ- S ז"א נגדיר אלגוריתם B שמקבל קלט S – אוסף של דוגמאות מקרה א ואז אפשר להוציא את מקרה ב A עוצר ומוציא היפטזה אקוולטית ל-

ONLINEEXACT EXAMPLE PAC

דוגמא 2: טרם בוליאני Term

אלגוריתם ל- Term Input S L:={x 1,x 1,x 2,x 2,…,x n,x n } EQ(L)  a If a = YES return(L) Remove l from L if l(a i )=0 זמן למידה מתאימה Proper מספר EQ

בשלב i נסמן הדוגמא הנגדית מקיימת לא נמחק ליטרל שנמצא ב-f נמחק ב- h לפחות ליטרל אחד

משפט הדואליות 1 :אם ניתן ללמוד C ב-EXACT בזמן T ו- q שאלתות אזי ניתן ללמוד C D מדוגמאות בזמן O(T) ו- q שאלתות. משפט הדואליות 2 :C ניתנת ללמידה ב-EXACT אם"ם C D ניתנת ללמידה ב-EXACT. לומד ל- C D מורה לומד ל- C

משפט ההרכבה תהי C מחלקת פונקציות בוליניות תהיסדרת פונקציות כך שכל g i ניתנת לחישוב בזמן T G. אם C ניתנת ללמידה מדוגמאות בזמן T(n) ו-q(n) שאלתות אזי ניתן ללמידה מדוגמאות בזמן O( T(t)+q(t) t T G ) אלגוריתם הלימידה מוציא היפוטזה בגודל poly(t) ו- O(q(t)) שאלתות

הוכחה: יהי A(n) אלגוריתם לימידה ל - C נגדיר אלגוריתם B

דוגמא 3 זמן לימידת Term מספר EQ זמן

דוגמא 4 רשימת החלטה (DL) Decision list נוסיף משתנה ונגדיר רשימה מונוטונית נגדיר רשימה מונוטונית דחוסה.אם למה אם ניתן ללמוד רשימה מונוטונית דחוסה ניתן ללמוד רשימת החלטה

נניח בשלב מסוים באלגוריתם יש לנו היפטזה כאשר כאשר שואלים

כאשר כאשר שואלים כל המשתנים ב- אפס ב- קיים משתנה ב- אחד ב- משתנה זה לא נמצא ב- נוציא משתנה זה מ- עדיין מתקיימת התכונה

נתחיל עם היפטזה אחרי כל EQ נמחק אחד מהמשתנים באחד מה- לכן מספר ה- EQ הוא לכל היותר זמן

משפט : ניתן ללמוד DT ב-EXACT בזמן האלגוריתם מוציא log s-DL בגודל משפט : ניתן ללמוד DNF מדוגמאות בזמן האלגוריתם מוציא בגודל

חסם עליון על מספר שאלתות השקילות משפט : ניתן ללמוד כל מחלקה C ב-EXACT עם log|C| שאלתות שקילות (וזמן אקספוננציאלי). הוכחה : לקבוצה S נגדיר

דוגמא DNF DNF בגודל s משפט : ניתן ללמוד DNF ב-EXACT עם שאלתות שקילות (וזמן אקספוננציאלי).