Fils d'un militaire, qui deviendra général de division de Napoléon III, Lorédan Larchey naît à Metz en Moselle, le 26 janvier 18311. Il est étudiant en droit, puis canonnier au 7e Régiment d'Artillerie. Il gardera de cette brève expérience un goût prononcé pour l’histoire militaire. En 1850, il entre à l'École des Chartes, où il fréquente Auguste Poulet-Malassis, qui lui fait connaître Baudelaire, puis il abandonne ses études pour se consacrer au dessin et à la gravure.
Lorédan Larchey devient bibliothécaire à la Bibliothèque Mazarine en 1852. Il fonde, en 1855, La Revue anecdotique des lettres et des arts, qu'il dirige jusqu'en 1861 chez Auguste Poulet-Malassis, puis La Petite Revue, en 1863 chez René Pincebourde. Il collabore par ailleurs à de nombreuses revues : La Bibliothèque universelle de Genève, Le Courrier de Paris, Le Figaro, Paris-Magazine, Le Progrès de Lyon, L'Impartial du Rhin, Le Monde illustré, Le Bibliophile français. À partir de 1873, Lorédan Larchey travaille comme bibliothécaire à la bibliothèque de l'Arsenal. Il en devient conservateur à partir de 1880.
Larchey est l'auteur de travaux originaux, sous son nom, ou sous le pseudonyme de Chercheur obstiné. Il publie en particulier un dictionnaire argotique en 1880. Outre ce dictionnaire d'argot, qui connaît de nombreuses éditions, il fait paraître des dictionnaires de noms propres et de proverbes. Il publie également plusieurs recueils de bons mots, ainsi que de nombreux mémoires inédits, en particulier les mémoires d'un soldat de la Révolution, le sergent Fricasse, et celles d'un capitaine du Premier Empire, le capitaine Coignet.
Au début des années 1880 il est inspecteur des bibliothèques lorsqu'il rencontre le jeune Paul Dorveaux dont il soutient la nomination au poste de bibliothécaire responsable du dépôt bibliographique de l'École supérieure de pharmacie de Paris.
Lorédan Larchey décède le 12 avril 1902 à Menton, dans les Alpes-Maritimes, qui a donné son nom à une de ses rues.