Falvy Zoltán 1961-től segítette a Bartók Archívum létrehozását, ahol 1963-tól tudományos titkárként működött. 1968-ban megalapította a Zenetörténeti Múzeumot, majd Ujfalussy József igazgatása alatt az intézet igazgatóhelyettese volt. 1980–1998 igazgatta Zenetudományi Intézetet. Ebben az időszakban  költözött az intézet az Erdődy-Hatvany palotába, amelynek átépítését is irányította. Falvy Zoltán főként a középkori zenét kutatja: vizsgálta a budapesti könyvtárakban fennmaradt középkori kéziratokat, a magyarországi és európai gregorián összefüggéseit (Codex Albensis: Ein Antiphonar aus dem 12. Jahrhundert, 1963) és a trubadúrok hazai működését (Mediterranean Culture and Troubadour Music, 1986). Jelentős organológiai és zene-ikonográfiai tanulmányai is megjelentek.

Falvy Zoltán búcsúztatása 2017. július 25-én, kedden 14:30-kor lesz a Farkasréti temető ravatalozója előtti szabad térségen, a római katolikus egyház szertartása szerint.