La ligne a été déclarée d'utilité publique en mars 1879, mais les travaux n'ont commencé que 11 ans plus tard. Le 1er juillet 1912, soit 22 ans après les premiers coups de pioches, la ligne est mise en service.

Le service voyageur est interrompu en avril 1939, puis reprend provisoirement de 1944 à 1950 par l'ajout d'une voiture de voyageurs aux trains de marchandises. Par la suite, l'autorail touristique Lyon - Toulouse fera le détour par Saint-Georges-d'Aurac et les gorges de l'Allier pour relier le Puy à Langogne, ce qui représentait 126 kilomètres de parcours au lieu des 53 de la ligne directe.

En 1988 la section Le Puy-en-Velay - Landos est fermée. En 1992 la ligne est déclassée, et en 1996 la section Landos - Brives-Charensac est déferrée. Un temps la gare de Brives-Charensac servit comme desserte marchandises, jusqu'à arrêt définitif des circulations et pose d'un heurtoir à la sortie de la gare du Puy. La section comprise entre Landos et Langogne est devenue un vélo-rail.