Велику частину кар'єри Херардо провів у клубі «Ньюелз Олд Бойз» зі свого рідного міста Росаріо. Рекордсмен клубу за кількістю проведених матчів у всіх турнірах (505). Також у 2003 році в результаті опитування його визнали найкращим гравцем «Ньюелз» за всю історію.
У лютому 2007 року очолив збірну Парагваю. На Кубку Америки збірна Парагваю у групі виступила непогано, посівши друге місце. Але в плей-офф, в першому ж матчі зі збірною Мексики Парагвай зазнав нищівної поразки з рахунком 0:6. У відбірковому турнірі на Чемпіонат світу «гуарані» посіли третє місце, після Бразилії і Чилі. На ЧС Парагвай зайняв перше місце в групі і в 1/8 фіналу переміг Японію. 3 липня парагвайці програли в чвертьфіналі збірній Іспанії з рахунком 0:1. Після завершення Кубка Америки 2011 року, на якому Парагвай зайняв 2-е місце, Херардо подав у відставку.
23 липня2013«Барселона» офіційно оголосила про призначення Херардо Мартіно на пост головного тренера. Контракт було розраховано на два роки, втім Мартіно пропрацював у каталонському клубі лише один сезон, в якому його підопічні не змогли виграти жодного турніру за винятком здобуття Суперкубка Іспанії.