Falvy Zoltán 1961-től segítette a Bartók Archívum létrehozását, ahol 1963-tól tudományos titkárként működött. 1968-ban megalapította a Zenetörténeti Múzeumot, majd Ujfalussy József igazgatása alatt az intézet igazgatóhelyettese volt.

1980-1998 igazgatta Zenetudományi Intézetet. Ebben az időszakban költözött az intézet az Erdődy-Hatvany palotába, amelynek átépítését is irányította.

Falvy Zoltán főként a középkori zenét kutatja: vizsgálta a budapesti könyvtárakban fennmaradt középkori kéziratokat, a magyarországi és európai gregorián összefüggéseit, és a trubadúrok hazai működését. Jelentős organológiai és zene-ikonográfiai tanulmányai is megjelentek.