1. עיבוד תמונות ואותות במחשב אלכסנדר ברנגולץ דואר אלקטרוני : aer@cs.technion.ac.il שיטות קידוד שיטות קידוד אורך מלת קוד ואנטרופיה אורך מלת קוד ואנטרופיה קידוד Huffman קידוד Huffman אלכסנדר ברנגולץ דואר אלקטרוני : aer@cs.technion.ac.il שיטות קידוד שיטות קידוד אורך מלת קוד ואנטרופיה אורך מלת קוד ואנטרופיה קידוד Huffman קידוד Huffman קידוד אותות ותמונות

2. © ברנגולץ א ’ עיבוד תמונות ואותות במחשב 2 בעיית הקידוד נתונה סדרה של ערכים נתונה סדרה של ערכים כל אחד מהם יכול להיות מתוך קבוצת ערכים סופית V כל אחד מהם יכול להיות מתוך קבוצת ערכים סופית V יש לייצג את הסדרה באמצעות סדרה בינארית בעלת אורך מינימלי. יש לייצג את הסדרה באמצעות סדרה בינארית בעלת אורך מינימלי. ייצוג “ טבעי ”: נצמיד לערך x i את הקוד הבינארי של i. אורך מלת קידוד הוא |log|V. ייצוג “ טבעי ”: נצמיד לערך x i את הקוד הבינארי של i. אורך מלת קידוד הוא |log|V. דוגמא : דוגמא :  kbz-*la 00011110 01101100 01001011

3. © ברנגולץ א ’ עיבוד תמונות ואותות במחשב 3 הגדרת הבעיה  האם אי אפשר לבנות קידוד קצר יותר ?  דרישות : – יחידות הפענוח (Uniquely Decodable) – רגעיות הפענוח (Instantaneous) כמה ניתן לחסוך, במקרה הטוב ביותר ? כמה ניתן לחסוך, במקרה הטוב ביותר ? איפה ניתן לחסוך ? איפה ניתן לחסוך ?

4. © ברנגולץ א ’ עיבוד תמונות ואותות במחשב 4 אנטרופיה נגדיר את האנטרופיה : כאשר הסתברות של הערך בסדרה X. נגדיר את האנטרופיה : כאשר הסתברות של הערך בסדרה X. דוגמאות : דוגמאות : – – –

5. © ברנגולץ א ’ עיבוד תמונות ואותות במחשב 5 תכונות של אנטרופיה משפט : משפט : נגדיר : אורך ממוצע של מלת קוד בקידוד : נגדיר : אורך ממוצע של מלת קוד בקידוד : משפט : משפט : דוגמא : דוגמא :

6. © ברנגולץ א ’ עיבוד תמונות ואותות במחשב 6 קידוד Huffman רעיון : אם יש לנו רק שתי אותיות אז אין אפשרות קידוד אחרת חוץ מלקדד אחת 1 ושניה 0. רעיון : אם יש לנו רק שתי אותיות אז אין אפשרות קידוד אחרת חוץ מלקדד אחת 1 ושניה 0. נבנה שוטת קידוד רקורסיבית ( בהינתן הסתברות של אותיות ): נבנה שוטת קידוד רקורסיבית ( בהינתן הסתברות של אותיות ): – ניקח שתי אותיות בעלות הסתברות הכי נמוכה, – נבנה מהם אות “ מורכבת ” שהסתברותה סכום של הסתברויות שלהן, – קידוד של אותיות המורכבות נקבל בכך שנוסיף לראישה משותפת 1 לאחת מהן ו 0 לשניה. ניתן להוכיח שבקוד הזה שאם פגשנו קידוד של האות מסוימת אז אין אות אחרת שזה התחלת הקידוד שלה. ולכן הוא חד - פענוח. ניתן להוכיח שבקוד הזה שאם פגשנו קידוד של האות מסוימת אז אין אות אחרת שזה התחלת הקידוד שלה. ולכן הוא חד - פענוח.

7. © ברנגולץ א ’ עיבוד תמונות ואותות במחשב 7 דוגמא a, 0.01 b, 0.02 e, 0. 1 d, 0.09 c, 0.04 f, 0. 14 g, 0.2 h, 0.4 a/b, 0.03 0 1 a/b/c, 0.07 0 1 a/b/c/d, 0.16 1 0 e/f, 0.24 0 1a/b/c/d/g, 0.36 0 1 a/b/c/d/e/f/g, 0.6 0 1 1 0