Народився у Швейцарії в родині італійців, які емігрували з батьківщини у пошуках кращих умов для працевлаштування.
У дорослому футболі дебютував 1988 року виступами за команду клубу «Шаффгаузен» з рідного міста, в якій провів три сезони, взявши участь у 50 матчах чемпіонату.
Згодом з 1991 по 1993 рік грав у складі команд інших швейцарських клубів «Цюрих» та «Аарау». У складі останньої команди виборов титул чемпіона Швейцарії.
Своєю грою у Швейцарії привернув увагу представників тренерського штабу клубу «Лаціо», до складу якого приєднався 1993 року. Відіграв за «біло-блакитних» наступні три сезони своєї ігрової кар'єри. Більшість часу, проведеного у складі «Лаціо», був основним гравцем команди.
1996 року перейшов до клубу «Челсі», за який відіграв 4 сезони. Граючи у складі «Челсі» також здебільшого виходив на поле в основному складі команди. За цей час додав до переліку своїх трофеїв два титули володаря Кубка Англії, ставав володарем Кубка англійської ліги, володарем Суперкубка Англії з футболу, володарем Кубка Кубків УЄФА, володарем Суперкубка УЄФА. Завершив ігрову кар'єру 2000 року, у 30-річному віці.
Розпочав тренерську кар'єру, повернувшись до футболу після невеликої перерви, 2008 року, очоливши тренерський штаб англійського клубу «Мілтон-Кінс Донс». Протягом 2009—2011 років очолював іншу англійську команду, «Вест-Бромвіч Альбіон», яку вивів до Прем'єр Ліги.
Наразі входить до тренерського штабу клубу «Челсі». З квітня 2012 року — виконувач обов'язків головного тренера «Челсі». Під керівництвом Ді Матео «Челсі» виграв Кубок Англії та Лігу Чемпіонів 2011—2012. Попри ці досягнення того ж 2012 року був змінений на тренерському містку «аристократів» на Рафаеля Бенітеса.
7 жовтня 2014 року очолив команду німецького «Шальке 04», який на той момент перебував на 11-й позиції у турнірній таблиці чемпіонату та вже вибув з тогорічного розіграшу Кубка Німеччини. З новим головним тренером команда покращила результати і за десять турів до завершення сезону перебувала у групі лідерів чемпіонату. Проте на фініші турніру «Шальке» зміг здобути лише дві перемоги у десяти матчах, завершивши сезон на шостому місці, яке дозволяло йому наступного сезону змагатися лише у Лізі Європи УЄФА. Після цього 26 травня 2015 року Ді Маттео пішов у відставку і залишив Німеччину.
Через рік, 2 червня 2016, його було призначено очільником тренерського штабу «Астон Вілли», яка попереднього сезону втратила місце у Прем'єр-лізі і мала завдання повернутися до англійського елітного дивізіону. Проте старт сезону у бірмінгемців вийшов невдалим, і після декількох провальних матчів 3 жовтня того ж року італійця було звільнено.