Il paese di Gragnano viene ricordato per la prima volta da una pergamena dell'anno 847. La chiesa, dedicata a Santa Maria, venne allivellata nel Novembre del 988 alla Pieve di Segromigno dal vescovo Isalfredo e fu presente  nell'elenco del "Libellus extimi Lucanae dyocesis" del 1260.

La piccola chiesa medievale a navata unica fu modificata nel 1780 e  ricostruita nel 1858-1861 sotto la direzione dell'architetto Pietro Bernardini di Montecarlo.

A Gragnano era presente lo Spedale "San  Pietro" del quale però non si trova  traccia.

Tra le persone illustri native di Gragnano troviamo il matematico Domenico Chelini (nato il 18/10/1802, morto a Roma il 16/11/1878) e il pittore Michele Ridolfi. (nato il 29/09/1793 - morto nel 1854).

Gragnano deve, probabilmente, il suo toponimo al nome latino " Granius" e al suffisso anus, che indica proprietà.