6 до 32 Кбайт. Адже чим менше розмір кешу, тим легше домогтися низьких затримок при доступі.
Кеш-пам'ять 2-го рівня, як правило, уніфікована, тобто може містити як команди, так і дані. Якщо вона вбудована в ядро ​​ЦП, то говорять про S-cache (Secondary Cache, вторинний кеш), в іншому випадку - про B-cache (Backup Cache, резервний кеш). У сучасних серверних ЦП обсяг S-cache становить від одного до декількох мегабайт, a B-cache - до 64 Мбайт. Якщо дизайн ЦП передбачає наявність вбудованої кеш-пам'яті 3-го рівня, то її іменують T-cache (Ternary Cache, третинний кеш). Як правило, кожний наступний рівень кеш-пам'яті повільніше, але більше попереднього за обсягом. Якщо в системі присутній B-cache (як останній рівень моделі кеш-пам'яті), то він може контролюватися як ЦП, так і набором системної логіки.
Якщо в момент виконання деякої команди в регістрах не опиниться даних для неї, то вони будуть затребувані з найближчого рівня кеш-пам'яті, тобто з D-cache. У разі їх відсутності в D-Cache запит направляється в S-cache і т. д. У гіршому випадку дані будуть доставлені безпосередньо з пам'яті. Втім, можливий і ще більш сумний варіант, коли підсистема управління віртуальною пам'яттю операційної системи (ОС) встигає витіснити їх у файл підкачки на жорсткий диск. У разі доставки з оперативної пам'яті втрати часу на отримання потрібних даних можуть складати від десятків до сотень тактів ЦП, а в разі знаходження даних на жорсткому диску мова вже може йти про мільйони тактів.
Асоціативність кеш-пам'яті
Одна з фундаментальних характеристик кеш-пам'яті - рівень асоціативності - відображає її логічну сегментацію. Справа в тому, що послідовний перебір всіх рядків кеша в пошуках необхідних даних зажадав би десятків тактів і звів би нанівець весь виграш від використання вбудованої в ЦП пам'яті. Тому осередки ОЗУ жорстко прив'язуються до рядків кеш-пам'яті (у кожному рядку можуть бути дані з фіксованого набору адрес), що значно скорочує час пошуку. З кожною клітинкою ОЗУ може бути пов'язано більше одного рядка кеш-пам'яті: наприклад, n-канальна асоціативність (n-way set associative) позначає, що інформація за деякою адресою оперативної пам'яті може зберігатися в n місць кеш-пам'яті.
Вибір місця може проводитися за різними алгоритмами, серед яких найчастіше використовуються принципи заміщення LRU (Least Recently Used, заміщається запис, запитана в останній раз найбільш давно) і LFU (Least Frequently Used, запис, найменш часто запитувана), хоча існують і модифікації цих принципів. Наприклад, повністю асоціативна кешпамять (fully associative), в якої інформація, що знаходиться за довільним адресою в оперативній пам'яті, може бути розміщена у довільній рядку. Інший варіант - пряме відображення (Direct mapping), при якому інформація, яка знаходиться за довільним адресою в оперативній пам'яті, може бути розміщена тільки в одному місці кеш...
