Il paese di Gragnano viene ricordato, per la prima volta, in una pergamena dell'anno 847. La chiesa venne allivellata, nel Novembre del 988, dal vescovo Isalfredo alla Pieve di Segromigno e viene menzionata nel "Libellus extimi Lucanae dyocesis" del 1260.

La chiesa medievale di Santa Maria, in origine  piccola e a navata unica, è stata modificata nel 1780 e  ricostruita nel 1858-1861 sotto la direzione dell'architetto Pietro Bernardini di Montecarlo.

A Gragnano era presente lo Spedale di S.Pietro del quale però non si hanno tracce.

Tra le persone illustri native di Gragnano si trova il matematico Domenico Chelini (nato il 18-10 del 1802, morto a Roma il 16-11 del 1878) e il pittore Michele Ridolfi.(n. 29 settembre 1793 - m.1854)

Nelle vicinanze della chiesa si trova il Santuario della Madonna del Belvedre.