1. FSKTM Kenapa Cache? Penganalisaan bbrp aturcara menunjukkan bahawa memori komputer cenderung merujuk kepada suatu kawasan tertentu. Fenomena ini dinamakan sebagai rujukan setempat atau locality of reference. Fenomena ini memberi hujah yang kuat supaya data2 yang terbabit dalam fenomena ini ditempatkan ke dalam memori yang berkelajuan tinggi (cache memory), yang mana ia boleh mempercepatkan masa capaian keseluruhan (overall access time) sistem.

2. FSKTM Komputer Dgn Cache Processor Main Memory Cache Memory Address Bus Data Bus

3. FSKTM Cache Sebilangan kecil memori berkelajuan tinggi. Ia berada di antara memori utama dan pemproses (CPU) Berkemungkinan juga terletak dalam cip CPU atau modul.

4. FSKTM Operasi Cache - Tinjauan CPU memohon kandungan bg lokasi memori yang diperlukan. Semak data ini di cache Jika ada, ambil drpd cache (cepat) Jika tiada, baca blok yg diperlukan drps memori utama ke cache Kemudian, hantarnya drpd cache ke CPU Cache ada tags utk mengenalpasti blok memori utama yang mana berada dalam setiap slot cache.

5. FSKTM Rekabentuk Cache Saiz Fungsi Pemetaan (Mapping function) Aloritma Penggantian (Replacement algorithm) Polisi Baca (Write policy) Saiz Blok (Block size) Bilangan cache (Number of caches)

6. FSKTM Saiz Kos (Cost) –Lbh cache - mahal Kelajuan (Speed) –Lbh cache – lbh laju (up to a point) –Semakan cache – ambil lbh masa

7. FSKTM Typical Cache Organization

8. FSKTM Memori Cache Cache: tempat selamat utk menyorok atau menyimpan data Hierarki memori diantara CPU dan main memory Mengurang masa capaian ke main memory Kerap juga digunakan dalam peranti input/output Cache menggunakan SRAM: Static Random Access Memory –No refresh

9. FSKTM Cache Addressing Yes No START DONE Is Block in Cache? Access main memory for block containing RA Alloc. cache slot for main memory block Deliver RA word to CPU Load main memory block into cache slot Fetch RA word and deliver to CPU

10. FSKTM Terminologi Cache Hit (Kena) –Keadaan di mana pabila secebis data ingin dicapai drpd memori, data tersebut dijumpai berada di cache. Miss (Sipi) –Keadaan di mana pabila secebis data ingin dicapai drpd memori, data tersebut tidak dijumpai di cache.

11. FSKTM Prestasi Cache Hit ratio.(Nisbah kena) –Nisbah (dlm %) bilangan capaian data yang berjaya dijumpai di. Keberkesanan cache blh diukur dengan hitungan hit ratio dan miss ratio, yakni, hit = 1 - miss

12. FSKTM Blhkah Cache Meningkatkan Prestasi Sistem? Take the following access time of A computer system, (T ma = 500ns) Based on the above, the overall access time to the memory with no cache is, T acc = T ma = 500ns If the above system has a cache with an access time of 50ns (T ca ) and a hit ratio of 90%, the overall access time is, T acc = (T ca X 0.90) + (T ma X (1-0.9)) T acc = (50 X 0.90) + (500 x 0.10) T acc = (45) + (50) T acc = 95ns

13. FSKTM Pertimbangan Rekabentuk Cache Implementing a cache requires due consideration and tradeoffs between the following:- –The Hit Ratio –Access Time on a Hit –Delay Time on a Miss –Cost

14. FSKTM Jenis2 Pemetaan Cache O/k cache senantiasa smaller drpd main memory, maka semestinya wujud cara bgmn main memory blh dipetakan ke cache yg kecil ini. Terdpt tiga keadah yg biasa digunakan:- –Direct mapping –Full associative mapping –Set associative mapping Main Memory Cache Mapping

15. FSKTM Pemetaan Cache Secara asasnya utk mencapai memori komputer ialah melalui address bus. Oleh itu, lebar address bus menentukan bilangan memori yang boleh dicapai. Cth:-. Jika lebar address bus ialah 15 bit, maka bilangan lokasi yg blh dialamatkan ialah:-. N = 15. 2 n = lokasi. 2 15 = 32768.

16. FSKTM Pemetaan Cache Example of how the main memory is partitioned based on the address bus width.. MEMORY. CPU 0 32767

17. FSKTM Cache : Pemetaan Terus Utk m’benar’n main memory dipetakan ke cache, medan alamat dibhgkan kpd dua bhgn iaitu medan tag & medan index. Jika sistem ada 2 n words dlm main memory dan 2 k words dlm cache. n = 15 k = 9 Tag Field Size = n - k = 6 TAG INDEX 15 bits TAG INDEX 15 bits 6 bits 9 bits

18. FSKTM Cache : Pemetaan Terus Example Main Memory 32K X 12 Address = 15 bits Data = 12 bits Cache 512 X 12 Address = 9 bits Data = 12 bits 0 32767 0 511

19. FSKTM Cache : Pemetaan Terus Main memory Cache 0 511 0 0........ 12 Bits 0 511 Tag Field 6 Bits12 Bits Data is stored here Tag 0 Tag 64 Tag 1

20. FSKTM Full Associative Mapping Memory Address Location Cache Full address is stored here Data is stored here Main Memory 65 12 291 803 15 Bits12 Bits 12291 65803 12 Bits

21. FSKTM Address (Tag & Index) 000001100100011 000000100100011 291 803 Decimal Form Binary Form Tag FieldIndex Field Tag FieldIndex Field

22. FSKTM Set Associative Mapping 0 12 Cache Tag Value is stored here Data is stored here Main Memory 1 65 2-Way Set Associative Cache 65 12 291 803 2-Way Set Associative Cache

23. FSKTM Classifying Misses Compulsory—capaian pertama ke blok tiada dlm cache, maka blok trersebut mesti dibawa kedlm cache. Ia juga dikenali sbg first reference misses. Capacity—jk cache t/blh mengisi kesemua blok yg diperlukan ketika perlaksanaan aturcara, capacity misses akan wujud disbbkan oleh blok terpaksa dibuang. (Misses in fully associative). Conflict—jk strategi penggantian adlh pemetaan set associative atau direct, conflict misses akan wujud krn blok tlh dibuang dan wujud capaian semula jk terlampau byk blok dipetakan kpd set. Juga dikenali sbg interference misses. (Misses in n-way associative).

24. FSKTM Polisi Penggantian Cache Apbila cache penuh, ia perlu menyediakan utk new entry dgn displacing an older entry dlm cache. Ini dinamakan replacement policy. Ada tiga kaedah:-. –Least recently used. –First in first out. –Random.

25. FSKTM Main Memory Update Policy Write-through. –Data yg ditulis kpd cache, ia juga ditempatkan (ditulis) kedlm main memory ketika update. Write-back. –Data yg ditulis kpd cache, ia tidak ditulis kedlm main memory.

26. FSKTM Write Through Cache Cth, jk data "12" ditulis ke primary storage, salinannya ditulis kedlm cache begitu juga main memory. CPU MAIN MEMORY CACHE 12 Area Of Activity

27. FSKTM Write Back Cache Cth, jk data "12" ditulis ke primary storage, salinannya hanya ditulis kedlm cache. Main memory tidak diupdate. CPU MAIN MEMORY CACHE 12 Area Of Activity