阿里山林業鉄路では当初、木材を運ぶために蒸気機関車、いわゆるSLが使われていました。嘉義から阿里山までは、勾配の少ない平坦区間、勾配の急な山岳区間、営林場へ続く林場支線など地形が異なるため、区間ごとに違う機関車を使っていました。「嘉義～竹崎」の平坦区間では、主に18トンのSLが使われ、「竹崎～阿里山」の山岳区間では、主に28トンのSLが使用されました。阿里山の各営林場へと向かう林場支線は、勾配が比較的緩やかなため、主に18トンのSLが使われました。

その後、ディーゼル機関車が導入されると、ふもとまでの時間は短縮され、そのため、蒸気機関車は線路から姿を消していきました。1953年に初代のディーゼル機関車が導入されて以来、現在までに7世代のディーゼル機関車が利用されました。
近年、鉄道文化遺産を運転できる状態で保存する「動態保存」という考え方のもと、SL21号、25号、26号、31号が相次いで修復され、往年のスターたちの勇姿がよみがえりました。