Sulla riva destra del Danubio, nel III secolo a.C., una tribù celtica si stabilì in questo settore dandogli il nome di Taurunum. Quando gli slavi arrivarono nel 630, venne adottato l’attuale nome di Zemun.
Nel 1717, con l'arrivo degli austriaci, Zemun è diventata un’importante fortificazione contro i turchi, data la sua posizione come città di confine e centro commerciale.
La Torre del Millennio sulla collina di Gardos fu eretta nel 1896 in occasione del millesimo anniversario della fondazione dello Stato ungherese. La torre ospita una galleria d'arte.