Después de actuaciones diversas, se va en 1925 como componente de la orquesta de su hermano Francisco Canaro a París, ejecutando contrabajo y serrucho.
En 1926 va a Nueva York con la misma y al cabo de esa gira vuelve a Francia donde capitanea orquesta propia hasta 1939 que por causas de la guerra retorna a Buenos Aires, luego de recorrer toda Europa, con elementos criollos y europeos que se convirtieron al tango, y el Medio Oriente.
No compuso mucha música pero su primera obra, el tango “Sentimiento gaucho”, que hiciera con Francisco, rebasó los límites de la popularidad; premiado en el primer concurso de tangos de los discos Nacional a fines de 1924 con el primer premio, es uno de los tangos clásicos de siempre.
Su famosa letra es de Juan Andrés Caruso.