Još davne 1911. godine osnovan je Beogradski sportski klub (BSK), preteča današnjeg OFK Beograda. Klub je osnovan nakon raskola u drugom najstarijem beogradskom fudbalskom klubu Srpski mač. Iako se zvanično prvenstvo nije igralo sve do 1923. godine, u to vreme je BSK nosio epitet nezvaničnog šampiona u periodu od 1911. do 1913. godine. Nakon neuspeha u kvalifikacijama za državno prvenstvo koje se održava od 1923. godine i dosta lošeg stanja u klubu, 1927. godine BSK pobeđuje u prvenstvu Beogradskog loptačkog podsaveza i od te godine je redovan učesnik takmičenja koje su činili najbolji klubovi iz ostalih podsaveza. U periodu od 1930. do 1939. godine BSK osvaja pet titula prvaka Jugoslavije i jedan Jugo kup. Na prvenstvu sveta u Urugvaju 1930. godine, na kom je Jugoslavija osvojila 3. mesto, čak dve trećine ekipe činili su igrači BSK-a.

Nakon rata ukida se BSK, a 1945. godine osnovan je FK Metalac. Nakon nekoliko godina, 1950. godine, klubu je vraćen stari naziv BSK, a pod tim nazivom su osvojena dva nacionalna kupa 1953. i 1955. godine. Današnji naziv OFK Beograd klub nosi od 1957. godine, nakon krize i fuzionisanja sa nižerazrednom TSK Šumadijom, a te godine odigrana je prva utakmica na sadašnjem Omladinskom stadionu. Period 60-ih i 70-ih godina prošlog veka bio je period osvajanja još dva Kupa Jugoslavije i blistavih nastupa u evropskim kupovima. U sezoni 1962/63 u Kupu pobednika kupova klub je stigao do polufinala takmičenja u kome je uspešniji bio engleski Totenhem. Pre polufinala plavo-beli su eliminisali istočnonemački klub Hemi Hale, severnoirski Portadaun i u četvrtfinalu italijanski Napoli. U sezoni 1972/73 Kupa UEFA klub je u prvom kolu eliminisao Duklu iz Praga, zatim je bio bolji od Fajenorda koji je 2 godine pre toga bio šampion Evrope, a sezonu nakon te i osvojio Kup UEFA. U trećem kolu je savladan Beroe iz Stare Zagore, a u četvrtfinalu je usledilo ispadanje od holandskog Tventea. Nakon toga, 80-ih i 90-ih godina nastupa period oscilacija u rezultatima i selidba između dva najjača ranga takmičenja, bez značajnijih uspeha na domaćoj i evropskoj sceni.

Kraj 90-ih godina prošlog veka i početak novog milenijuma obeležio je povratak OFK Beograda na veliku scenu i period znatno boljih rezultata. U sezoni 2002/03 izborili su 3. mesto u prvenstvu i učešće u Intertoto kupu, što je bilo prvo učešće u nekom evropskom takmičenju posle 29 godina. U tom takmičenju ispali su u drugom kolu od češkog Sinota. Naredne sezone OFK Beograd završava kao 4. na tabeli, te opet obezbeđuje učešće u Intertoto kupu gde stižu do polufinala takmičenja u kome su poraženi u duelu sa ekipom Atletiko Madrida. Sezone 2004/05 klub ponavlja uspeh u Prvoj ligi, a obezbeđuje mesto u kvalifikacijama za Kup UEFA, gde ispada od Lokomotive Plovdiv. Naredne sezone u Kupu Srbije i Crne Gore plavo-beli stižu do finala u kome je nakon velike borbe slavila ekipa Crvene zvezde. Time su izborene kvalifikacije za Kup UEFA u kojima je rival bio francuski Okser. Nakon pobede plavo-belih u Beogradu rezultatom 1:0, u revanšu je do 82. minuta bilo 2:1, a onda je Okser postigao tri gola i sa pobedom od 5:1 otišao dalje. U sezoni 2007/08 klub je došao do polufinala Kupa Srbije, gde je ispao od Zemuna, a naredne sezone je klub u poslednjem kolu izborio opstanak u ligi. Već naredne sezone plavo-beli stižu do trećeg mesta u Super ligi Srbije i do polufinala Kupa Srbije u kome je bolja bila ekipa Crvene zvezde. Izborene su kvalifikacije za Ligu Evrope, gde je nakon izbacivanja Torpedo Žodina klub ispao od turskog Galatasaraja.

Klub je, pozivajući se na istoriju BSK-a, 2011. godine proslavio vek postojanja, nakon čega su plavo-beli u sezonama 2012/13 i 2013/14 stizali do polufinala Kupa Srbije. Ipak, ubrzo je usledio period velike organizacione i finansijske krize koja je dovela do toga da OFK Beograd na kraju sezone 2015/16 nakon 19 godina ispadne u drugi, a odmah naredne godine i treći rang takmičenja.

Nakon šest sezona provedenih u Srpskoj ligi Beograd, trećem rangu takmičenja, klub je u sezoni 2022/23 osvajanjem prvog mesta konačno uspeo da izbori povratak u Prvu ligu Srbije.

Najveći uspesi

5 puta prvak Jugoslavije
(1930/31, 1932/33, 1934/35, 1935/36, 1938/39)

5 puta pobednik Kupa Jugoslavije
(1934, 1952/53, 1954/55, 1961/62, 1965/66)

Finale Kupa Srbije i Crne Gore
(2005/06)

Polufinale Kupa pobednika kupova
(1962/63)

Četvrtfinale Kupa UEFA
(1972/73)