Pierwsze pamięci masowe zostały stworzone w roku 1725 we Francji. Były nimi karty dziurkowane, które zostały użyte do ulepszania kwestii kontroli pracy w francuskich zakładach tkackich. Oczywiście owe karty dziurkowane były najbardziej prymitywnymi pamięciami masowymi w historii ludzkości, aczkolwiek to właśnie od nich rozpoczął się rozwój tego typu nośników danych.

Kolejnym bardzo dużym krokiem w rozwoju pamięci masowych był rok 1957, w którym to inżynierowi IBM wprowadzili na rynek komputerowy, pierwszy w historii, dysk twardy IBM Dysk file 350. Dysk ten, co prawda nie przypominał swoimi parametrami (wymiary 152x173x74 cm i 4 MB pojemności) HDD-ków znanych nam obecnie aczkolwiek na tamte czasy był naprawdę świetnym rozwiązaniem technicznym.

Potem naukowcy pracowali nad modernizacją nośników danych tak, aby mogły być one jeszcze mniejsze, a przy tym potrafiły przenosić bardzo duże ilości danych. Na rynku po kolei pojawiały się dyskietki, płytki CD, płytki DVD, pamięci flash oraz inne innowacyjne i rozbudowane pamięci masowe.

Dziś dysk twardy o pojemności kilku terabajtów jest tzw. standardem, który na rynku już praktycznie na nikim nie robi żadnego wrażenia. Kiedyś natomiast tak ogromna ilość pamięci zlokalizowana na tak małym nośniku danych była kwestią nawet nie do pomyślenia.