Die ersten 33 Jahre seines Lebens verbringt er in Boulogne-sur-Mer, in einer Familie von Musikern, Lehrern und Orgelbauern, die sehr früh Kontakt zu Cavaillé-Coll hat.Aber bereits im Alter von knapp zwanzig Jahren beginnt er, auf Pariser Instrumenten zu spielen, und anläßlich der Einweihung der Großorgel von Saint-Sulpice im Jahre 1862 macht er sehr auf sich aufmerksam. Von nun an geht es mit seiner Karriere stetig aufwärts. Die wichtigsten Etappen sind seine Berufung an die Eglise de la Trinité im Jahre 1871 (Nachfolger von A. Chauvet, selbst berühmter Vorführer der Orgeln von Cavaillé-Coll, aber frühzeitig verstorben); die Gründung der berühmten Großen Orgelkonzerte des Trocadéro in den Jahren 1878-79; die erste der drei Aufsehen erregenden Tourneen in Nordamerika (1891, 1897-98, 1904), die Gründung (mit d‘Indy und Bordes) der Schola Cantorum im Jahre 1894 und, im Jahre 1896, seine Berufung als Orgellehrer an das Konservatorium (als Nachfolger von Widor).

Guilmant war vielseitig begabt: Virtuose, Improvisationskünstler, Komponist, Pädagoge, Verleger, Musikwissenschaftler, sehr beschlagen im Orgelbau. Sein Werk ist sicherlich von unterschiedlicher Qualität, und im Vergleich zu seinen Kollegen Saint-Saëns, Widor und vor allem Franck geht es ihm eher darum, vom Durchschnittspublikum verstanden zu werden denn sich als Neuerer an das Fachpublikum zu wenden. Sein Stil weist somit eine gewisse Routine auf und verschwindet oft in einem immensen Korpus von Stücken durchschnittlicher Länge, deren Komponisten allenfalls den Organisten ein Begriff sind (Dubois, Salomé, Deshayes). Die Experten sind sich jedoch dahingehend einig, daß Guilmant einen prägenden Einfluß auf die späten Arbeiten von Cavaillé-Coll ausgeübt hat und daß seine Musik, wie im übrigen auch die von Widor und Franck, maßgeschneidert ist.