En 1978, il sort son premier album, Tout corps vivant branché sur le secteur étant appelé à s'émouvoir, composé de morceaux écrits dix ans auparavant. À partir de 1980, Thiéfaine s'oriente vers un style plus rock :  l'album Soleil cherche futur, qui a connu un certain succès avec la chanson Lorelei sebasto cha en 1982 et Alambic/Sortie Sud, cosigné avec Claude Mairet.

En 1988, il rompt avec sa maison de disques Sterne, et enregistre deux albums aux États-Unis (Chroniques Bluesimentales en 1990 et Fragments d'hébétude en 1993). Sa musique, volontiers mélancolique, s'ouvre ensuite aux nappes de synthétiseurs. En 1998, il remplit la salle de Bercy sans aucun appui des médias. Le concert fait l'objet d'un album et d'un DVD.

Son album Scandale mélancolique, fait volontiers référence à un passé tantôt heureux, tantôt difficile, à un avenir incertain, ou encore à son inspiration personnelle (le Jeu de la folie).  Il est l'auteur de tous les textes sauf un, et a laissé le soin à la jeune génération d'auteurs-compositeurs français, au nombre desquels on peut citer Cali ou encore Mickey 3D, de composer les musiques. 

Une mini-tournée, qui passe entre autres par l'Olympia suit en 2008. 

En mars 2009, pour ses « un peu plus que trente ans de carrière », sort une compilation en trois CD (que Thiéfaine nomme Best-hier), Séquelles, comportant un titre inédit, Annihilation, qui aurait dû faire partie de l'album Itinéraire d'un naufragé.

Son seizième album studio, Suppléments de mensonges - un CD ou un double vinyle - sort en 2011,  se compose de dix nouvelles chansons, augmentées de deux titres « survivants » d'Itinéraire d'un naufragé. Il est suivi d'une tournée baptisée Homo plebis ultimae tour, avec un concert à Paris-Bercy. Quelques jours auparavant, une deuxième version de l'album est sortie, avec trois chansons supplémentaires (Modèle dégriffé, L’amour est une névrose et Casino / Sexe et Tendritude).

Bien que peu présent dans les grands médias, Hubert-Félix Thiéfaine connaît un succès relativement important depuis le début de sa carrière : ses albums sont pratiquement tous consacrés disques d'or et ses concerts font régulièrement le plein, grâce à la fidélité et l'attachement de son public.