Par son décret du 29 floréal an X (19 mai 1802), Napoléon Bonaparte ordonne la création du réseau des canaux parisiens, et, en particulier, qu’il sera ouvert un canal de déviation qui partira de la Seine, au-dessous du bassin de l'Arsenal, se rendra dans les bassins de partage de La Villette et continuera par Saint-Denis, afin d'éviter la navigation par le centre de Paris, qui était très encombrée, et donc très lente. De plus, le canal permet d'éviter un méandre de la Seine.

Les travaux ont commencé en 1805 sous la direction de René-Edouard de Villiers du Terrage et il a été mis en service en 1821. Il comportait alors douze écluses rachetant une dénivellation de 28,34 m.

Le canal a été reconstruit et élargi pour accepter les barges à grand gabarit, entre 1890 et 1895. À cette occasion, le nombre d'écluses étant ramené à sept écluses, la première, dénommée écluse du Pont de Flandre, rachetant à elle seule 10 m de dénivellation et remplaçant quatre anciennes écluses.

Le 11 mars 1918, durant la Première Guerre mondiale, le canal est touché lors d'un raid effectué par des avions allemands.