Przypadkowe wykopaliska archeologiczne wskazują na to, że już 4000 do 1700 lat p.n.e. istniały na ziemi nowskiej osady neolityczne. Ślady w formie grodziska wyżynnostożkowatego wskazują na istnienie osady słowiańskiej w miejscu, gdzie obecnie są Garbuzy. Osada ta otoczona była parowami tworzącymi naturalną fosę, którą z czasem zasypano od północnej strony (w miejscu, gdzie później była Brama Grudziądzka).
Pierwsza wiarygodna wzmianka o Nowem pochodzi z 1266 roku, z kroniki niemieckiego zakonnika Piotra Dusburga. Zakonnik opisywał w niej zwycięską walkę księcia gdańsko-pomorskiego Mszczuja II nad rzeczną flotą krzyżacką, stacjonującą przy grodzie w Nowem, oraz najazd na posiadłości krzyżackie.
W okresie pomorskim miasto otaczała od południa i zachodu drewniano-ziemna palisada. Gród uległ zniszczeniu po krwawej walce Krzyżaków z załogą polską, podczas której zdobyli zamek. Odbudowany otrzymał prawa miejskie w 1350 roku. Krzyżacy wybudowali prawdopodobnie na fundamentach dawniejszych obwarowań miejskich, nowe, w pełni zamknięte mury obronne: murowane w dolnych częściach z kamienia polnego, w górnych z cegły. Miały niewiele ponad 1000 m długości. Wzmocnione były 16 basztami rozmieszczonymi w różnych odległościach. Jedna z nich, zwana szafarnią miała kształt okrągły i znajdowała się przy klasztorze. W zachodnim ciągu murów, w drugiej wieży od strony północnej była sala tortur. Natomiast w baszcie usytuowanej w północno-zachodnim rogu mieściło się nowskie więzienie.
Z wyjątkiem strony wschodniej, opartej o skarpę wiślaną, miasto otaczała fosa. Jeszcze w 1817 roku znajdowała się w niej woda.
Do miasta wchodziło się przez nie zachowane do dzisiejszych czasów cztery bramy, zaopatrzone w zwodzone mosty. Od południa była to Brama Grudziądzka, od zachodu Gdańska, od północy Wodna i od strony zachodniej Brama Rybacka. Do miasta można było wejść też przez dwie furtki: przy zamku, w północno-wschodniej części murów oraz od wschodu, przy kościele franciszkanów. Jeszcze w 1592 r. było 16 wież, a w drugiej połowie XIX wieku-13.
W XIX wieku mury zostały częściowo rozebrane. Do dzisiejszych czasów zachowało się w znacznych fragmentach w zachodniej oraz w południowej części miasta około 550 m. murów, podstawy 12 wież i zasadniczy odcinek fosy. Zachował się również prawie niezmieniony układ średniowiecznego miasta z elementami pomorskiej siatki ulic.