Анатолий Рыбалко родился в 1974 году в Ленинграде. Закончил Музыкальное училище им.Н.А.Римского-Корсакова и Санкт-Петербургскую Государственную консерваторию по специальностям «хоровое дирижирование» (класс профессора Е.Кудрявцевой) и «оперно-симфоническое дирижирование» (класс профессора Р.Мартынова). Лауреат I Bсероссийского конкурса хоровых дирижеров (г. Салават,1995).
С 1996 года преподает на дирижерско-хоровом отделении Музыкального училища им.Н.А.Римского-Корсакова.
С 2002 года работает дирижером в Санкт-Петербургском государственном детском музыкальном театре «Зазеркалье». Осуществил постановку опер «Джанни Скикки» Дж.Пуччини и «Директор театра» В.А.Моцарта.
Сотрудничает с различными коллективами: Заслуженным коллективом России академическим симфоническим оркестром Санкт-Петербурской филармонии, Академическим симфоническим оркестром Санкт-Петербурской филармонии, Санкт-Петербургским Государственным Академическим симфоническим оркестром, оркестром Государственного Эрмитажа, оркестром Государственной академической Капеллы.
С 2006 года выступает в абонементных концертах Большого зала Санкт-Петербургской академической филармонии им.Д.Д.Шостаковича.
В 2007-2008 годах работал в Театре оперы и балета Санкт-Петербургской государственной консерватории. Под его управлением прошли два премьерных спектакля: возобновление балета «Жизель» и премьера спектакля «Вечер хореографических миниатюр».
В 2008 году стал приглашенным дирижером Михайловского театра. Осуществил постановку балета «Корсар» и являлся дирижером-ассистентом при выпуске спектаклей «Ромео и Джульетта» С.Прокофьева, «Паяцы» Р.Леонкавалло, «Летучий голландец» Р.Вагнера. Дважды принимал участие в гастролях Михайловского театра по городам Японии.
В 2009 году записал саундтрек к фильму «Последнее воскресение» (композитор С.Евтушенко).
В декабре 2011 года стал дирижером Государственного симфонического оркестра Санкт-Петербурга. В этом же году начал преподавать на кафедре оперно-симфонического дирижирования Санкт-Петербургской государственной консерватории им. Н.А.Римского-Корсакова.
С начала сезона 2013/2014 является художественным руководителем и главным дирижером Симфонического оркестра Карельской государственной филармонии.
В 2022 году А.Рыбалко присвоено почетное звание «заслуженный артист Республики Карелия».