* Antal matcher och mål i proffsklubbar räknas endast för de inhemska ligorna och är korrekt per den 30 maj 2016. ** Antal landskamper och mål är korrekta per den 30 maj 2016.
Rami började sin fotbollskarriär i amatörklubben Étoile Fréjus Saint-Raphaël. År 2006 värvades han av Ligue 1-klubben Lille OSC. I januari 2011 skrev Rami på ett fyraårskontrakt med den spanska klubben Valencia CF. Han lånades dock under 2011 tillbaks till Lille, där han vann dubbeln.
I oktober 2013 blev Valencia och Milan överens om att låna Rami till Milan samt att låta honom träna med laget tills hans flytt blivit officiell. Den 6 januari 2014 spelade Rami sin debut för Milan i en match mot Atalanta, som slutade med en 3-0 seger.
Ramis debut i Sevilla var mot Barcelona i den europeiska supercupen den 11 augusti 2015. Sevilla förlorade matchen med 5–4 och Rami blev syndabock då han i sista minuten av förlängningen missade ett öppet mål.
Rami gjorde sin landslagsdebut den 11 augusti 2010 i en vänskapsmatch mot Norge.