Альбом вызвал некоторые споры из-за его обложки и нацистских образов (на рекламных фотографиях The Residents были изображены в костюмах гигантских свастик и в огромных очках со свастикой). Витрина в Беркли была встречена протестами и угрозами, а альбом с оригинальной обложкой до сих пор запрещён в Германии. Несмотря на это, альбом считается одним из шедевров группы, как и большинство их релизов 1970-х годов.
В 1974 году группа The Residents рассматривала возможность записать кавер-версии на свой дебютный альбом Meet the Residents. Первоначально они хотели, чтобы их друг Snakefinger[англ.] играл на гитаре на альбоме, но поскольку он в то время был в Англии, группа искала местного гитариста, и в итоге им был предложен Гэри Филлипс[англ.] из Earth Quake[англ.]. The Residents записали Swastikas on Parade за одну неделю в октябре 1974 года. В следующем году Резиденты вернулись к этой концепции и записали второй трек под названием Hitler Was a Vegetarian.
В номере журнала Sounds от 31 декабря 1977 года Джон Сэвидж[англ.] описал альбом как «одновременно очень забавный и пугающий»[3]. Журнал FACT поставил альбом на 70 место в списке 100 лучших альбомов 1970-х годов, назвав его предтечей групп The Fall, The KLF, Matmos и Церкви недомудреца[4].
