Ses années 1970 sont marquées par l'écriture et la composition de quatre albums phares : Histoire de Melody Nelson en 1971, Vu de l'extérieur en 1973, Rock around the bunker en 1975 et L'Homme à tête de chou en 1976. Si, au départ, ces albums rencontrent peu de succès commercial (les ventes plafonnent à 30 000 exemplaires), ils le hissent à l'avant-garde de la chanson française.

Histoire de Melody Nelson est accueilli par la presse comme « le premier vrai poème symphonique de l'âge pop ».

En mai 1973, Serge Gainsbourg est victime d'une crise cardiaque. Il continue pourtant de boire et de fumer, fidèle au personnage qu'il est en train de devenir.

L'album Vu de l'extérieur comporte un tube : Je suis venu te dire que je m'en vais.

Avec Rock around the bunker il pousse la provocation à son comble : il tourne en dérision, au second degré, l'esthétique et la verroterie nazies. L'album, enregistré à Londres, est radicalement rejeté par les programmateurs de radio qui ne voient dans cette farce à la Boris Vian qu'une provocation scandaleuse avec des titres comme Nazi rock ou Tata teutonne. Pourtant, à la fin de la décennie 1980, cet album sera couvert de disques d'or.