Balderis spelade i den sovjetiska högsta ligan för Dinamo Riga och CSKA Moskva från 1973 till 1985. 1977 utsågs han till årets spelare i den sovjetiska ligan efter att ha gjort 40 mål och 23 assist för totalt 63 poäng på 35 matcher för Dinamo Riga.
Balderis draftades av Minnesota North Stars 1989 som 238:e spelare totalt. Han var då 36 år vilket gjorde honom till den äldsta spelaren någonsin att draftas av ett NHL-lag. Säsongen 1989–90 spelade han 26 matcher för North Stars och gjorde 3 mål och 6 assist.