Cache es un componente de hardware o software que almacena datos para que las solicitudes futuras de esos datos puedan ser atendidas más rápido; Los datos almacenados en un caché pueden ser el resultado de un cómputo anterior o una copia de los datos almacenados en otro lugar. Se produce un acierto de caché cuando los datos solicitados se pueden encontrar en un caché, mientras que se produce un error de caché cuando no se puede. Los resultados de la memoria caché se sirven leyendo datos de la memoria caché, que es más rápido que volver a calcular un resultado o leer desde un almacén de datos más lento; por lo tanto, cuantas más solicitudes se puedan atender desde el caché, más rápido se realizará el sistema.

Para ser rentable y permitir el uso eficiente de los datos, los cachés deben ser relativamente pequeños. Sin embargo, los cachés han demostrado su eficacia en muchas áreas de la informática, porque las aplicaciones informáticas típicas acceden a los datos con un alto grado de localidad de referencia. Dichos patrones de acceso exhiben una localidad temporal, donde se solicitan datos que ya se han solicitado recientemente, y una localidad espacial, donde se solicitan datos que se almacenan físicamente cerca de los datos que ya se han solicitado.

Cómo funciona

El hardware implementa el caché como un bloque de memoria para el almacenamiento temporal de datos que probablemente se usarán nuevamente. Las unidades centrales de procesamiento (CPU) y las unidades de disco duro (HDD) utilizan con frecuencia una memoria caché, al igual que los navegadores web y los servidores web.

Un caché está formado por un grupo de entradas. Cada entrada tiene datos asociados, que es una copia de los mismos datos en algún almacén de respaldo. Cada entrada también tiene una etiqueta que especifica la identidad de los datos en el almacén de respaldo de los cuales la entrada es una copia.

Cuando el cliente de caché (una CPU, navegador web, sistema operativo) necesita acceder a los datos que se supone que existen en el almacén de respaldo primero verifica la caché. Si se puede encontrar una entrada con una etiqueta que coincida con la de los datos deseados, se utilizarán los datos de la entrada. Esta situación se conoce como un hit de caché. Por ejemplo un programa de navegador web puede verificar su caché local en el disco para ver si tiene una copia local del contenido de una página web en una URL particular. En este ejemplo, la URL es la etiqueta y el contenido de la página web son los datos. El porcentaje de accesos que resultan en aciertos de caché se conoce como la tasa de aciertos o la relación de aciertos del caché.

La situación alternativa, cuando se verifica el caché y se encuentra que no contiene ninguna entrada con la etiqueta deseada, se conoce como un error de caché. Esto requiere un acceso más costoso a los datos del almacén de respaldo. Una vez que se recuperan los datos solicitados generalmente se copian en la memoria caché y listos para el siguiente acceso.

Durante una falta de memoria caché se elimina alguna otra entrada de memoria caché previamente existente para dejar espacio para los datos recién recuperados. La heurística utilizada para seleccionar la entrada para reemplazar se conoce como la política de reemplazo. Una política de reemplazo popular, "menos utilizada recientemente" (LRU), reemplaza la entrada más antigua, la entrada a la que se accedió menos recientemente que cualquier otra entrada (consulte el algoritmo de caché). Algoritmos de almacenamiento en caché más eficientes calculan la frecuencia de uso-impacto contra el tamaño de los contenidos almacenados, así como las latencias y el rendimiento de la memoria caché y el almacén de respaldo. Esto funciona bien para grandes cantidades de datos, latencias más largas y rendimientos más lentos como los que se experimentan con discos duros y redes pero no es eficiente para usar dentro de un caché de CPU