Het primaire geheugen is het geheugen dat rechtstreeks toegankelijk is voor de rekenkundige en logische eenheid. Traditioneel kan dit geheugen read-write (RAM) of read-only-memory (ROM) zijn. Momenteel zijn er geheugens die kunnen worden geclassificeerd als leesvoorkeur, dat wil zeggen variaties van ROM-geheugen die kunnen worden herschreven, maar met een beperkt aantal cycli en een veel langere tijd.
Normaal gesproken communiceert het primaire geheugen met de CPU via een bus of datakanaal. De snelheid van toegang tot het geheugen is een belangrijke kostenfactor voor een computer, dus het primaire geheugen is doorgaans hiërarchisch opgebouwd in een computerontwerp. Een deel van het geheugen, bekend als de cache, bevindt zich zeer dicht bij de CPU, met zeer snelle toegang. Het meeste geheugen is toegankelijk via hulppaden.
Gewoonlijk is het geheugen in een computerarchitectuur scherp gescheiden van de CPU. De huidige microprocessors hebben echter een ingebouwd cachegeheugen, wat hun snelheid aanzienlijk verhoogt.