עיבוד תמונות ואותות במחשב אלכסנדר ברנגולץ דואר אלקטרוני : שיטות קידוד שיטות קידוד אורך מלת קוד ואנטרופיה אורך מלת קוד ואנטרופיה קידוד Huffman קידוד Huffman אלכסנדר ברנגולץ דואר אלקטרוני : שיטות קידוד שיטות קידוד אורך מלת קוד ואנטרופיה אורך מלת קוד ואנטרופיה קידוד Huffman קידוד Huffman קידוד אותות ותמונות

© ברנגולץ א ’ עיבוד תמונות ואותות במחשב 2 בעיית הקידוד נתונה סדרה של ערכים נתונה סדרה של ערכים כל אחד מהם יכול להיות מתוך קבוצת ערכים סופית V כל אחד מהם יכול להיות מתוך קבוצת ערכים סופית V יש לייצג את הסדרה באמצעות סדרה בינארית בעלת אורך מינימלי. יש לייצג את הסדרה באמצעות סדרה בינארית בעלת אורך מינימלי. ייצוג “ טבעי ”: נצמיד לערך x i את הקוד הבינארי של i. אורך מלת קידוד הוא |log|V. ייצוג “ טבעי ”: נצמיד לערך x i את הקוד הבינארי של i. אורך מלת קידוד הוא |log|V. דוגמא : דוגמא :  kbz-*la

© ברנגולץ א ’ עיבוד תמונות ואותות במחשב 3 הגדרת הבעיה  האם אי אפשר לבנות קידוד קצר יותר ?  דרישות : – יחידות הפענוח (Uniquely Decodable) – רגעיות הפענוח (Instantaneous) כמה ניתן לחסוך, במקרה הטוב ביותר ? כמה ניתן לחסוך, במקרה הטוב ביותר ? איפה ניתן לחסוך ? איפה ניתן לחסוך ?

© ברנגולץ א ’ עיבוד תמונות ואותות במחשב 4 אנטרופיה נגדיר את האנטרופיה : כאשר הסתברות של הערך בסדרה X. נגדיר את האנטרופיה : כאשר הסתברות של הערך בסדרה X. דוגמאות : דוגמאות : – – –

© ברנגולץ א ’ עיבוד תמונות ואותות במחשב 5 תכונות של אנטרופיה משפט : משפט : נגדיר : אורך ממוצע של מלת קוד בקידוד : נגדיר : אורך ממוצע של מלת קוד בקידוד : משפט : משפט : דוגמא : דוגמא :

© ברנגולץ א ’ עיבוד תמונות ואותות במחשב 6 קידוד Huffman רעיון : אם יש לנו רק שתי אותיות אז אין אפשרות קידוד אחרת חוץ מלקדד אחת 1 ושניה 0. רעיון : אם יש לנו רק שתי אותיות אז אין אפשרות קידוד אחרת חוץ מלקדד אחת 1 ושניה 0. נבנה שוטת קידוד רקורסיבית ( בהינתן הסתברות של אותיות ): נבנה שוטת קידוד רקורסיבית ( בהינתן הסתברות של אותיות ): – ניקח שתי אותיות בעלות הסתברות הכי נמוכה, – נבנה מהם אות “ מורכבת ” שהסתברותה סכום של הסתברויות שלהן, – קידוד של אותיות המורכבות נקבל בכך שנוסיף לראישה משותפת 1 לאחת מהן ו 0 לשניה. ניתן להוכיח שבקוד הזה שאם פגשנו קידוד של האות מסוימת אז אין אות אחרת שזה התחלת הקידוד שלה. ולכן הוא חד - פענוח. ניתן להוכיח שבקוד הזה שאם פגשנו קידוד של האות מסוימת אז אין אות אחרת שזה התחלת הקידוד שלה. ולכן הוא חד - פענוח.

© ברנגולץ א ’ עיבוד תמונות ואותות במחשב 7 דוגמא a, 0.01 b, 0.02 e, 0. 1 d, 0.09 c, 0.04 f, g, 0.2 h, 0.4 a/b, a/b/c, a/b/c/d, e/f, a/b/c/d/g, a/b/c/d/e/f/g,