Presentation is loading. Please wait.

Presentation is loading. Please wait.

Ray 7 דוגמא אלגוריתם 1.קבל דוגמאות 2. פלט f a עבור הדוגמה a המינימלית החיובית ?

Similar presentations


Presentation on theme: "Ray 7 דוגמא אלגוריתם 1.קבל דוגמאות 2. פלט f a עבור הדוגמה a המינימלית החיובית ?"— Presentation transcript:

1 Ray 7 דוגמא אלגוריתם 1.קבל דוגמאות 2. פלט f a עבור הדוגמה a המינימלית החיובית ?

2 חסם של Markov חסם של Chebychev ממד (VCdim) Shatter Coefficient למה Sauer ε-net משפט ε-net משפט OCCAM

3 חסם של Markov חסם של Chebychev ממד (VCdim) Shatter Coefficient למה Sauer ε-net משפט ε-net משפט OCCAM

4 קצת רקע בהסתברות חסם של Markov יהי X משתנה מקרי חיובי. אזי אינטואיציה: אם ממוצע ציונים הוא a אזי לא יכול להיות שיותר מחצי הציונים גדולים מ- 2a Markov 1856-1922 עבור

5 איפה השתמשנו בזה ש-X חיובי ?

6 חסם של Markov חסם של Chebychev ממד (VCdim) Shatter Coefficient למה Sauer ε-net משפט ε-net משפט OCCAM

7 Chebychev 1821-1894 חסם של Chebychev יהי X משתנה מקרי. אזי הוכחה: לפי Markov

8 Cormen, Leiserson, Rivest דוגמא: ניסוי ברנולי ניסוי עם הצלחה בהסתברות p וכשלון בהסתברות q=1-p

9 m נסיונות ברנולי בלתי-תלויים מספר ההצלחות

10 חסם של Chebychev בהסתברות לפחות Y/m -קרוב ל- p

11 חסם של Markov חסם של Chebychev ממד (VCdim) Shatter Coefficient למה Sauer ε-net משפט ε-net משפט OCCAM

12 ממד (VCdim) Vapnik-Chervonenkis Vapnik Chervonenkis תהי C קבוצה של פונקציות בוליניות נומר ש- מנפֵּצת Shattered ע"י C אם g היא אפס על g היא אחד על

13 g היא אפס על g היא אחד על מנופֵּצת אם דוגמא 1 0123 האם מנופֵּצת ? האם קיימת קבוצה עם שני אברים מנופֵּצת ?

14 דוגמא 2 0123 האם מנופֵּצת ? האם קיימת קבוצה מנופֵּצת עם שלשה אברים ?

15 VCdim(C) גודל הקבוצה הגדולה ביותר המנופצת

16 דוגמא 3 הוכחהנראה קודם ש-

17 לא קיימת קבוצה עם ארבעה אברים מנופֵּצת מקרה א: הנקודה הרביעית בתוך המשולש בהנתן ארבעה נקודות. תבחר שלשה נקודות ותבנה משולש אזי אם נקודות המשולש חיוביות אז כל נקודות המשולש הפנימיות חיוביות. מקרה ב: הנקודה הרביעית מחוץ למשולש הקו חייב לחתוך כל צלעות המרובע סתירה.

18 דוגמא 4

19

20 חסם של Markov חסם של Chebychev ממד (VCdim) Shatter Coefficient למה Sauer ε-net משפט ε-net משפט OCCAM

21 Shatter Coefficient מקדם הנפוץ תהי C קבוצה של פונקציות בוליניות ל- נגדיר נגדיר

22 דוגמא 1 0123 שים לב ש-הוא המספר אכי גדול כך ש-

23 דוגמא 2

24 חסם של Markov חסם של Chebychev ממד (VCdim) Shatter Coefficient למה Sauer ε-net משפט ε-net משפט OCCAM

25 למה Sauer Norbert Sauer עבור מחלקה עם הוכחה

26

27 ההוכחה תהיה באינדוקציה על הבסיס טרויאלי לפי הנחת האינדוקציה

28 חסם של Markov חסם של Chebychev ממד (VCdim) Shatter Coefficient למה Sauer ε-net משפט ε-net משפט OCCAM

29 קבוצה של נקודות S נקראת ε-net ל- C אם לכל כך ש- קיימת נקודה כך ש- משפט 1 ה- ε-net אם S היא m נקודות רנדומליות מ-X ו- אזי בהסתברות לפחות 1-δ, S היא ε-net ל- C נשתמש בסמון

30 משפט 1 ה- ε-net.אם S היא m נקודות רנדומליות מ-X ו- אזי בהסתברות לפחות 1-δ, S היא ε-net ל- C

31 הוכחהנגדיר נבחר S’, m נקודות רנדומליות מ-X ונגדיר טענה הוכחה נקחשמקייםז"א מחסם Chebychev

32 טענה

33

34

35 משפט 2 ה- ε-net אם S היא m נקודות רנדומליות מ-X ו- אזי בהסתברות לפחות 1-δ, S היא ε-net ל- C הוכחה למה Sauer נשאר להוכיח

36 מספיק להוכיח

37

38 משפט 2 ה- ε-net אם S היא m נקודות רנדומליות מ-X ו- אזי בהסתברות לפחות 1-δ, S היא ε-net ל- C

39 חסם של Markov חסם של Chebychev ממד (VCdim) Shatter Coefficient למה Sauer ε-net משפט ε-net משפט OCCAM

40 Algorithm Occam 1. Get examples  S 2. Run A(S)  h 0 אלגוריתם OCCAM לומד את C הוכחהתהי f פונקצית המטרה. נגדיר S היא ε-net ל-.C f לכל כך ש- קיימת נקודה כך ש- לכלולכן

41 Ray 7 דוגמא אלגוריתם 1.קבל דוגמאות 2. פלט f a עבור הדוגמא a המינימלית החיובית

42 דוגמא 8: חצי מישור HalfSpace

43 דוגמא 9: מצולע קמור עם k צלעות – Polygon k – מימד 2 לפי למה של Sauer

44 אם אזי לפי למה של Sauer אם הפלט הוא


Download ppt "Ray 7 דוגמא אלגוריתם 1.קבל דוגמאות 2. פלט f a עבור הדוגמה a המינימלית החיובית ?"

Similar presentations


Ads by Google