Fudbalski klub Zemun osnovan je 1945.godine, tada pod nazivom ’’Maksim Divnić’’ po imenu fudbalera poginulog tokom Drugog svetskog rata. Naziv kluba je nakon samo nekoliko odigranih mečeva promenjen, a novi je bio FK Sremac. Spajanjem dva zemunska kluba, FK Sremac i FK Sparta, krajem 1946.godine je formiran FK Jedinstvo. Pod tim nazivom klub se takmičio sve do 1969.godine kada je spajanjem FK Jedinstvo i nižerazrednog FK Galenika nastao novi klub, FK Galenika Zemun. Tek 1985.godine klub je dobio današnji naziv, FK Zemun.

Od 1962. do 1964. godine klub se takmičio u Drugoj saveznoj ligi – grupa Istok, nakon čega je igrao u trećem rangu takmičenja. U Drugu saveznu ligu vraćaju se 1970.godine i sa uspehom se takmiče sve do 1982.godine kada su obezbedili plasman u polufinale Kupa Jugoslavije i Prvu saveznu ligu gde su se takmičili u sezoni 1982/83 i zauzeli poslednje mesto. U najviši rang takmičenja plasirali su se ponovo  1990.godine i tamo se takmičili sve do 2007.godine. U tom periodu uspeli su da stignu do 4.mesta i plasmana u polufinale Kupa Jugoslavije u sezoni 1992/93, kao i 5.mesta u sezonama 1993/94 i 2004/05. Najveći uspeh u Kupu Srbije ostvaren je u sezoni 2007/08 kada je klub stigao do finala gde je poražen u duelu sa ekipom Partizana. Naredni period Zemunci su proveli u Srpskoj ligi Beograd i Prvoj ligi Srbije (drugi rang takmičenja), da bi nakon sezone 2016/17 kao drugoplasirani tim u okviru Prve lige Srbije obezbedili plasman u Super ligu Srbije.

Najveći uspesi

4.mesto u prvenstvu Srbije i Crne Gore
(1992/93)

Polufinale Kupa Jugoslavije
(1981/82)

Polufinale Kupa Srbije i Crne Gore
(1992/93)

Finale Kupa Srbije
(2007/08)