İstanbul’da doğan ve yaşamını aynı şehirde sürdüren Ali Rıfat Çağatay, dönemin ünlü hocalarından müzik eğitimi aldı.

1. Dünya Savaşı yıllarında İstanbul’da kurulan ve İstanbul müzik tarihinde önemli yeri olan Şark Musiki Cemiyeti’nin başkanlığını yaptı. Türk Musikisi Ocağı adlı kurumu kurdu.

1914 yılında Darülelhan (Nağmelerin Evi) adıyla açılan devlet konservatuarının öğretim kadrosunda yer aldı. Üsküdar Musiki Cemiyeti’nde öğrenci yetiştirdi. 50 civarında bestesi ve müzik üzerine çok sayıda makalesi bulunur.
Mehmet Akif Ersoy’un yazdığı ve 1921’de resmi marş olarak kabul edilen İstiklal Marşı’nın ilk bestesini Ali Rıfat Bey yazmıştır. Bu beste 1924’te 1930’a kadar kullanıldı; 1930’da Osman Zeki Üngör’ün batı marşları tarzındaki bestesi ile değiştirildi.
Udi Rıfat Bey adıyla da anılan Ali Rıfat Çağatay, şair ve dilci Sami Rıfat Horozcu’nun’in ağabeyi, şair Oktay Rıfat Horozcu'nun amcası, Fenerbahçe’nin efsane ismi Ali Cafer Çağatay’ın babasıdır.