Profesyonel kariyerine altyapısından yetiştiği doğduğu kentin önemli kulüplerinden olan Eintracht Frankfurt'ta başlayan Jermaine Jones, Almanya'da Leverkusen ve Schalke'de de oynadı. Blackburn ile kısa bir Ada macerası da yaşayan Amerikalı orta sahanın bir sonraki adresi ise Türkiye oldu.

2014 kış transfer döneminde Beşiktaş'a imza atan Jones'in siyah beyazlı kulüpteki futbol ömrü pek uzun sürmedi. Yarım sezon Türkiye'de oynadıktan sonra MLS'e giden Jermaine Jones sırasıyla ülkesinde; New England Revolution, Colorado, LA Galaxy, Ventura County ve Ontario Fury formalarını giydi.

2020 kış transfer döneminde aktif kariyerini noktalayan Jones, sporun ve futbolun içinde kalmaya devam etti. 39 yaşındaki isim şu anda ABD 3. Lig ekiplerinden New Amsterdam'da yardımcı antrenör olarak görev yapıyor.