2003 yılında altyapı eğitimi aldığı VfB Stuttgart'ta profesyonel kariyerine başlayan Mario Gomez, buradaki başarılı 4 sezonun ardından Bundesliga devi Bayern Münih'e transfer oldu. Bavyera ekibinde Şampiyonlar Ligi kupası dahil olmak üzere birçok zafer yaşayan Gomez, 2013 yaz transfer döneminde Fiorentina kadrosuna katıldı.

Çizme'de geçirdiği 2 yılın ardından yolu Türkiye'ye düşen Alman forvet, 2015-2016 sezonunda Beşiktaş ile Süper Lig'de şampiyonluk ve gol krallığı yaşadı. Yalnızca bir sezon Beşiktaş formasını giymesine karşın, siyah beyazlı taraftarın sevgilisi haline gelen Gomez, 2016 yaz transfer döneminde Wolfsburg'a imza attı ve Almanya'ya geri döndü. 

2018 kış transfer döneminde profesyonel kariyerine başladığı Stuttgart'a dönerek futbolu da 2020'de orada noktalayan Mario Gomez, şu anda Amazon Prime'da Şampiyonlar Ligi maçlarında yorumcu olarak görev yapıyor.