Вихованець ДЮСШ (Сміла). Перший тренер — Віктор Іванович Нагорний. Футболом Ковпак почав займатися з 14 років у смілянській ДЮСШ. А до футболу з 6 років займався спортивною гімнастикою, як говорить Сашко, заняття якою йому й досі допомагають, позаяк виробилися гнучкість і пластичність, які він часто використовує під час гри. Після занять у Нагорного він перейшов у старшу вікову групу до Петра Івановича Славінського. Завдяки першим своїм тренерам, що заклали фундамент футбольної науки, Ковпак став тим, ким нині є. Позаяк він став показувати стабільно результативну гру в чемпіонаті області, на нього звернули увагу тренери ФК «Черкаси», запросивши до команди.
У 2004 році в Кубку України ФК «Черкаси» грав з командами вищої ліги — одеським «Чорноморцем» — 3:2 і «Таврією» (1:1), Олександр зіграв в обох матчах, забивши м'яч у ворота одеситів. Тоді його гра справила враження на тренерів цих команд, і вони запросили Ковпака на перегляд. Він відгукнувся на запрошення головного тренера «Таврії»Олега Вікторовича Федорчука.
Після переїзду Володимира Гоменюка в дніпропетровський «Дніпро», став капітаном навесні 2009 року. У сезоні 2008/09 з 17 голами став найкращим бомбардиром чемпіонату України. Після закінчення сезону 2008/09 сайт Football.ua включив його до символічної збірної чемпіонату України.
Після конфлікту з керівництвом «Таврії», у грудні 2010 року Ковпак перейшов у київський «Арсенал». Поступово Олександр став основним гравцем команди і навіть 2012 року допоміг клубу вперше в історії вийти до єврокубків.
На початку 2013 року через фінансові проблеми в «Арсеналі» клуб змушений був відпустити більшість високооплачуваних футболістів, у тому числі й Олександра, що як вільний агент разом з партнерами по команді Саулюсом Міколюнасом та Сергієм Симоненком21 січня2013 підписав контракт з футбольним клубом «Севастополь», який виступав у першій лізі.
20 липня2016 року став гравцем «Черкаського Дніпра»[2], де провів один сезон, після чого ще один рік грав за «Полтаву». З цією командою Ковпак вийшов до Прем'єр-ліги, втім влітку 2018 року, напередодні дебюту у елітному дивізіоні, команда знялась зі змагань, а Ковпак перейшов до іншого абсолютного дебютанта вищого дивізіону «Десни»[3]. Протягом першої половини сезону виходив на поле у 7 матчах чемпіонату, кожного разу на заміну, і не забив жодного гола. 16 січня2019 року його контракт з чернігівським клубом було розірвано за згодою сторін[4]. Наступного місяця Олександр підписав контракт з клубом «Арсенал-Київ». 1 вересня 2019 року став гравцем одеського «Чорноморця»[5]. 26 листопада 2019 року покинув одеський клуб[6].