У дорослому футболі дебютував 2005 року виступами за команду друголігового клубу «Гренобль», в якій провів два сезони, взявши участь у 23 матчах чемпіонату і забивши 2 м'ячі. Перед початком сезону 2007–2008 років захищав кольори команди клубу «Істр» з Аматорського чемпіонату на умовах оренди.
За підсумками сезону 2007/08 «Гренобль» завоював право виступати у найвищому дивізіоні. Однак у серпні 2008 року був проданий до «Туру» і, таким чином, продовжив виступати в Лізі 2. Загалом у «Турі» нападник провів два сезони, в останньому з яких став найкращим бомбардиром ліги. У січні 2010 року Жиру поповнив ряди «Монпельє», проте дограв сезон за «Тур» на правах оренди.
Влітку 2010 року приєднався до складу вищолігового клубу «Монпельє». Перший матч у Лізі 1 Олів'є Жиру зіграв 8 серпня 2010 проти «Бордо», який завершився перемогою «Монпельє» з мінімальним рахунком 1:0. 28 серпня 2010 року нападник забив свій перший гол у Лізі 1, принісши перемогу своєму клубу у 4-му турі чемпіонату Франції 2010/11 у виїзному матчі проти «Валансьєна». Загалом у тому сезоні провів за «Монпельє» 37 матчів, в яких забив 12 голів.
У сезоні 2011/12 Олів'є Жиру за 14 матчів оформив два хет-трики та один дубль. Спочатку у 6-му турі Олів'є забив два м'ячі «Бресту», потім три м'ячі «Діжону» у 10-му турі та «Сошо» — у 15-му. Також Жиру приніс перемогу «Монпельє» у виїзному матчі проти чинного чемпіона Франції, «Лілля», забивши єдиний гол матчу на 70-й хвилині. Загалом у чемпіонаті Франції 2011/12 Жиру провів 36 ігор, причому у всіх він виходив у стартовому складі і забив 21 м'яч, ставши найкращим бомбардиром чемпіонату разом із Нене, і разом із «Монпельє» став чемпіоном Франції вперше у своїй історії.
Результативний нападник привертав увагу найсильніших та найбагатших клубів Європи ще по ходу сезону 2011/2012, а по його завершенні, 26 червня 2012 року, перебрався до Англії, ставши гравцем лондонського «Арсенала». Головний тренер якого Арсен Венгер традиційно значною мірою робив ставку на французьких футболістів при комплектуванні своєї команди. Сума трансферу оцінювалася у 9,6 мільйонів фунтів.
В «Арсеналі» Жіру відразу потрапив в ротацію з іншими основними форвардами команди Тео Волкоттом і Лукасом Подольскі, у сезоні 2012/13 з 17 голами в усіх турнірах став другим після Волкотта бомбардиром команди. Наступного сезону забив 22 голи (16 у чемпіонаті), найбільше за всіх інших гравців «Арсеналу». Протягом наступних років продовжував відзначатися високою результативністю, з 2014 року складав ефективний атакувальний дует з чилійцем Алексісом Санчесом. 28 вересня 2017 року забив свій 100-й гол у формі «канонірів». Усього за шість сезонів у футболці «канонірів» провів за клуб 253 матчі у різних турнірах, в яких забив 105 м'ячів.
Наприкінці січня 2018 року приєднався до лав «Челсі», з яким уклав контракт на півтора року. Сума трансферу склала 16 мільйонів фунтів стерлінгів. 16 лютого забив перший м'яч за клуб, вразивши ворота «Халл Сіті» у матчі Кубка Англії. А вже 19 травня 2018 року став володарем Кубка Англії 2017/2018 у складі «Челсі». Успішно виступав упродовж розіграшу Ліги Європи УЄФА у сезоні 2018/2019, де став переможцем турніру та його кращим бомбардиром (11 голів).
2 грудня 2020 року зробив покер у виїзному матчі групового етапу Ліги чемпіонів проти «Севільї» (4:0), ставши першим гравцем в історії «Челсі», якому вдалося досягти такого успіху в рамках цього турніру.
29 травня 2021 року «Челсі» обіграв «Манчестер Сіті» у фіналі Ліги чемпіонів, завдяки чому Жиру у складі своєї команди став переможцем Ліги чемпіонів 2020/21. М'яч забитий 23 лютого 2021 року у ворота «Атлетико Мадрид» у рамках розіграшу Ліги чемпіонів був визнаний уболівальниками найкращим голом сезону 2020/21.
7 липня 2021 року перейшов у «Мілан». Дебютував за новий клуб 23 серпня 2021 в матчі 1-го туру чемпіонату Італії проти «Сампдорії» (1:0), вийшовши у стартовому складі і провівши на полі весь матч. 29 серпня 2021 року забив свої дебютні м'ячі за нову команду, оформивши дубль у матчі 2-го туру чемпіонату Італії проти «Кальярі»(4:1). В останньому турі сезону 2021/22 проти «Сассуоло» (3:0) оформив дубль у першому таймі, внаслідок чого «Мілан» став чемпіоном Італії вперше за 11 років.
2011 року дебютував в офіційних матчах у складі національної збірної Франції. Наразі провів у формі головної команди країни 3 матчі. Дебютний гол у складі збірної забив 29 лютого 2012 року в товариському матчі проти збірної Німеччини, що завершився перемогою французів з рахунком 2:1.
Був учасником чемпіонатів Європи з футболу 2012, 2016 і 2020 років та чемпіонатів світу з футболу 2014, 2018 та 2022 років.
У матчі-відкритті домашнього для французів чемпіонату Європи 2016 забив м'яч у ворота збірної Румунії. Загалом на турнірі, що завершився для Франції поразкою у фіналі, виходив на поле у шости з семи ігор своєї збірної, також відзначився «дублем» у ворота збірної Ісландії на стадії чвертьфіналів.
.jpg)
.svg){kind=small}
Франція
«Мілан»
«Гренобль»
«Арсенал»
Франція
