1. מודל הלמידה מדוגמאות Learning from Examples קלט: אוסף של דוגמאות פלט: קונסיסטנטי עם פונקציה f ב- C ז"א קונסיסטנטי עם S ז"א

2. פתרון טריויאלי פתרון יעיל s מכיל גודל פונקצית המטרה, גודל x

3. פתרון לא טריויאלי= פתרון דוחס אם קיים פתרון לא טריויאלי נומר ש- C ניתנת ללמידה מדוגמאות

4. דוגמא 1 : מצולע קמור - Polygon k צלעות s הוא k פתרון יעיל מצולע עם poly(k ) צלעות פתרון לא טריויאלי מצולע עם צלעות

6. m נקודות m 2 קוים זמן זמן פולינומיאלי למשולש, מרובע, מחומש

7. 12 3 4 56 7 8 910 11 12 Set Cover פלט: מספר מינימלי של קבוצות S i המכסות את U ז"א, האחוד שלהם הוא U קלט:

8. 12 3 4 56 7 8 910 11 12 קלט:

9. משפט 1: בעית Set Cover היא NP-Complete משפט 2: קיים אלגוריתם שרץ בזמן פולינומיאלי ונותן כסוי בגודל (log |U|) k כאשר k הוא הפתרון האופטימלי.

10. מספר צלעות k log |U| <k log m פתרון לא טריויאלי זמן

11. משפט 1 : Polygon במרחב במימד 2 ניתנת ללמידה מדוגמאות משפט 2 : Polygon במרחב במימד קבוע ניתנת ללמידה מדוגמאות בעיה פתוחה : למידת Polygon במרחב במימד dבזמן פולינומיאלי poly(k,d) בעיה פתוחה : למידת חיתוך שני Halfspace במרחב במימד dבזמן פולינומיאלי poly(k,d)

12. דוגמא 2 : טרם בוליאני Term AND משתנים Variables ליטרלים Literal דוגמא: זמן פולינומיאלי טרם בוליאני Term

14. הטרם הגדול ביותר הקונסיסטנטי עם כל הדוגמאות החיוביות. לכן טרם המטרה T מקיים. זה שקול ל- לכן אין צורך לבדוק את הנקודות השליליות

15. אלגוריתם ל- Term Input S L:={x 1,x 1,x 2,x 2,…,x n,x n } For all (a,1) in S Remove x i from L if a i =0 Remove x i from L if a i =1 Output L זמן למידה מתאימה Proper

16. דוגמא 3 : קלוז בוליאני Clause דה-מורגן Augustus De Morgan 1806-1871

17. דואליות תכונות משפט הדואליות 1 :אם ניתן ללמוד C מדוגמאות בזמן T אזי ניתן ללמוד C D מדוגמאות בזמן O(T) משפט הדואליות 2 :C ניתנת ללמידה מדוגמאות אם"ם C D ניתנת ללמידה מדומאות

18. דוגמא 4: DNF ו- CNF DNF הוא OR של טרמים CNF הוא AND של קלוזים Disjunctive Normal form Conjunctive Normal form

19. DNF ניתנת ללמידה מדוגמאות אם ניתן ללמוד אותו בזמן ולחזיר פונקציה ב- P/poly בגודל

20. משפט הדואליות 1 :אם ניתן ללמוד DNF מדוגמאות בזמן T אזי ניתן ללמוד CNF מדוגמאות בזמן O(T) משפט הדואליות 2 : DNF ניתנת ללמידה מדוגמאות אם"ם CNF ניתנת ללמידה מדוגמאות

21. אלגוריתם למידה ל- DNF מדוגמאות מה הבעיה? בעיה פתוחה: למידת DNF מדוגמאות

22. דוגמא 5: M DNF ו- MCNF MDNF הוא Monotone DNF הוא OR של טרמים מונוטונים – ללא שלילה משפט 1 :אם ניתן ללמוד MDNF מדוגמאות בזמן T אזי ניתן ללמוד DNF מדוגמאות בזמן O(T) משפט 2 : MDNF ניתנת ללמידה מדוגמאות אםם DNF ניתנת ללמידה מדוגמאות M DNF D = ?

23. רעיון ההוכחה:

24. הוכחה: יהי A אלגוריתם לימידה ל - M DNF נגדיר אלגוריתם B צריר להוכיח טענה 1: אם קיים DNF קונסיסטנטי עם S אזי קיים MDNF קונסיסטנטי עם S New טענה 2: אם h(x,y) קונסיסטנטי עם S New אזי h(x,x) קונסיסטנטי עם S זמן

25. דוגמא 6: k -DNF ו- k -CNF k -DNF הוא DNF עם טרמים בגודל לכל היותר k 2 -DNF משפט 1 :אם ניתן ללמוד k-MDNF מדוגמאות בזמן T אזי ניתן ללמוד k-DNF מדוגמאות בזמן O(T) משפט 2 : k-MDNF ניתנת ללמידה מדוגמאות אם"ם k-DNF ניתנת ללמידה מדוגמאות 2 -MDNF Valiant 2 -Term 2 -MTerm

26. אפשר להחליף כל טרם במשתנה יש לכל היותר טרמים אלגוריתם למידה ל - 2-MDNF מדוגמאות

27. זמן לימידת קלוז עם n משתנים זמן לימידת קלוז עם n 2 משתנים זמן לימידת 2-MDNF זמן לימידת k -MDNF זמן לימידת קלוז עם n k משתנים מה גודל ההיפטזה?

28. משפט 1 : ניתן ללמוד k-DNF מדוגמאות בזמן O(mn k ) משפט 2 : ל- k קונסטנטה k-DNF ניתנת ללמידה. בעיה פתוחה : ללמוד k-DNF עבור k=ω(1) כלשהו

29. דוגמא 6: k -term DNF ו- k -clause CNF k -term DNF הוא DNF עם k טרמים 3 -term DNF משפט : מתכונת הדיסטריבוטיביות distributiveהוכחה :

30. משפט 1 : ניתן ללמוד k-term-DNF מדוגמאות בזמן O(mn k ) משפט 2 : ל- k קונסטנטה k-term-DNF ניתנת ללמידה.