Родился 3 мая 1919 года в посёлке Черногория (ныне — в черте города Новомиргород Кировоградской области Украины). Окончил три курса Кировоградского техникума механизации сельского хозяйства и аэроклуб.

В декабре 1937 года был призван на службу в Рабоче-крестьянскую Красную Армию. В 1938 году он окончил Одесскую военную авиационную школу лётчиков. С начала Великой Отечественной войны в должности заместителя командира эскадрильи 27-го истребительного авиационного полка. Участвовал в битве за Москву, Сталинградской битвы, освобождении Ростова-на-Дону, Украинской ССР.

К февралю 1943 года гвардии старший лейтенант Аркадий Ковачевич командовал эскадрильей 9-го гвардейского истребительного авиационного полка 268-й истребительной авиационной дивизии 8-й воздушной армии Южного фронта. К тому времени он совершил 356 боевых вылетов, принял участие в 58 воздушных боях, сбив 13 вражеских самолётов лично и ещё 6 — в составе группы.

Указом Президиума Верховного Совета СССР от 1 мая 1943 года за «образцовое выполнение заданий командования и проявленные мужество и героизм в боях с немецкими захватчиками» гвардии старший лейтенант Аркадий Ковачевич был удостоен звания Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» за номером 956.

К 9 мая 1945 года совершил около 520 боевых вылетов, провёл свыше 100 воздушных боях, сбив 20 вражеских самолётов лично и 7 в группе.

После окончания войны Ковачевич продолжил службу в Советской Армии.

Скончался 28 ноября 2010 года.