Han skrevs in på Lilleshall. När han gick ut så skrev han kontrakt med Londonklubben Charlton Athletic. Han gjorde sin debut den 23 augusti 1997 som inhoppare mot Bury i division ett.
Två månader senare skrev han på sitt första professionella kontrakt med klubben. Men det skulle dröja två år innan han fick göra sin första match från start, den skulle komma emot Blackburn i FA-cupen i december 1999.
När klubben tog steget upp till den högsta divisionen lånades han ut till Norwich City i division ett för att få erfarenheter av förstalagsspel.
När han återvände till klubben fick han ersätta en skadad Mark Kinsella och gjorde det så bra att han blev ordinarie. Parkers landslagsdebut kom emot Danmark då England förlorade med 3-2.
I januari 2004 skrev han på för Chelsea, som fick betala 10 miljoner pund för honom. I Chelsea skaffade han sig rutin från Europaspel då han spelade fyra Champions League-matcher varav båda semifinalerna emot Monaco. Samma år utsågs han av PFA till årets unga spelare. Den ringa speltiden var ett av skälen till att han den 15 januari skrev på för Newcastle United.
Parker meddelade att han avslutade sin spelarkarriär den 28 juni 2017.[2]
Den 28 februari 2019 blev Parker utsedd till tillfällig tränare i Fulham efter att Claudio Ranieri blivit avskedad.[3] Den 10 maj 2019 skrev han på ett tvåårskontrakt som huvudtränare för Fulham.[4] Den 4 augusti 2020 blev Fulham klara för Premier League efter att ha vunnit finalen i playoff med 2-1 mot Brentford.