Ritola föddes i Peräseinäjoki 1896, som den fjortonde i en syskonskara på tjugo. Som sjuttonåring emigrerade han till USA1913, men behöll sitt finländska medborgarskap.
Fyra år senare, i Amsterdam, var Ritola tillbaka och tog guld på 5 000 meter efter att ha besegrat landsmannen Paavo Nurmi. På 10 000 meter fick han dock som försvarande mästare nöja sig med silvermedaljen.
Ritola deltog aldrig i några finländska mästerskap i friidrott . Däremot blev han amerikansk mästare (i organisationen AAU) inte mindre än 14 gånger, på distanser både på bana, på landsväg och i terräng.
Ritola lade löparskorna på hyllan efter de olympiska spelen 1928. Han bodde sedan i USA fram till 1971, då han flyttade tillbaka till Finland. Han avled vid en ålder av 86 år i Helsingfors 1982.