1917年、ロシア革命後のロシア国内で内戦が続き、1918年にトロツキー指導の下で「労働者・農民赤軍」が創設され、省略して「赤軍」と呼ばれた。1937年に海軍が赤軍から独立してからは、陸軍の呼称として使われた。
最初は志願制で将校も選挙で選ばれ、後に徴兵制に変わり職業軍人による将校制度となったが、大粛清の影響で指導できる将校が少なくなり、また近代化も遅れ、大祖国戦争当初では敗北が続いた。軍需体制と兵力が整い、ドイツ軍を追い返してベルリンにまで侵攻。極東方面でも、日ソ不可侵条約を破って満州・朝鮮へ侵攻。いずれの侵攻でも現地女性への強姦が多発した。
第二次世界大戦が終結し、1946年に「ソ連軍(ソビエト連邦軍)」として名称を改め、再編された。
冷戦時、日本やドイツなどの国内で「赤軍」と名乗る共産主義過激派・テロ組織が暗躍し、日本で「赤軍」と言えばこちらの印象が強い。
また冷戦時でも、ソ連軍や中国軍など共産国の軍隊を「赤軍」と呼ぶ場合が多かった。