Cole spelade vänsterback i den engelska storklubben Arsenal FC sedan 1997, men bytte klubb till Chelsea FC 2006. Debuten i Arsenals A-lag kom dock inte förrän i slutet av november 1999. Landslagsdebuten kom ett par år senare, då England slog Albanien med 2–0 i en VM-kvalmatch den 28 mars 2001.
Mellan hösten 2006 och juni 2014 spelade Cole för Arsenals rivaler, Chelsea FC. Efter många om och men bytte Cole klubb med William Gallas timmarna innan det internationella transferfönstret stängde den 31 augusti 2006.