Budowę murowanego zamku rozpoczęto około roku 1300 z inicjatywy komtura Konrada von Sacka. Wcześniej na wzgórzu założony został obóz warowny osłaniany przez umocnienia drewniano-ziemne. Wzgórze to dostępne było jedynie od strony zachodniej i stanowiło doskonały punkt obserwacyjny.

   Warownia składała się ze zbudowanego na planie czworoboku zamku wysokiego z wewnętrznym dziedzińcem oraz przedzamcza będącego jakby częścią gospodarczą ze stajniami, stodołami i spichlerzami. Wejście było zabezpieczone fosą zewnętrzną, mostem zwodzonym, wieżą bramową, otoczone murami i wieżami basztowymi.

   Parter zajmowały pomieszczenia gospodarcze – kuchnia, piekarnia, stajnia, warsztaty. Najważniejsze pomieszczenia znajdowały się na pierwszym piętrze. W najszerszym, południowym skrzydle mieściła się  kaplica z trójprzęsłowym sklepieniem gwiaździstym oraz kapitularz. W murze kaplicy schowane były dwie celki pokutnicze z widokiem na ołtarz. Kapitularz przykryty został sklepieniem krzyżowo-żebrowym. Wspólna sypialnia braci zakonnych zwana dormitorium zajmowała północne skrzydło zamku, a w zachodnim znajdowały się prywatne  komnaty komtura. Oprócz kaplicy i kapitularza wszystkie pomieszczenia wyposażono w niewielkie okienka i przykryto sklepieniami krzyżowymi. Ściany w reprezentacyjnych pomieszczeniach były prawdopodobnie ozdobione malowidłami figuralnymi i heraldycznymi lub imitującymi rozwieszone tkaniny. Ustawiono tam dębowe ławy, stoły, skrzynie.

   Strategiczne znaczenie twierdzy rosło wraz z nasilającym się konfliktem polsko-krzyżackim. Konflikt ten najmocniej odbił się na Golubiu i samym zamku w 1422 r. Król Władysław Jagiełło w tzw. wojnie golubskiej zdobył miasto i przystąpił do oblężenia warowni, która została ostrzelana przez artylerię. Pod koniec roku Krzyżacy odzyskali miasto i zamek i przystąpili do naprawy zniszczeń. Przy odbudowie uwzględniono zmiany techniki wojennej. Warownia przechodziła jeszcze z rąk do rą, aby po zawarciu II pokoju toruńskiego w 1466 roku stać się siedzibą polskich starostów.

   Około 1511 r. z polecenia Zygmunta Starego rozpoczęła się odbudowa i przebudowa zamkowych wnętrz. Król Zygmunt III Waza nadał swojej siostrze Annie w 1611 r. starostwo golubskie swej siostrze i odtąd zamek w Golubiu stał się jej letnią rezydencją. Zmieniła ona zamek w renesansowy pałac, zastępując architektoniczne elementy obronne dekoracyjnymi. Przede wszystkim mury zwieńczono otynkowaną attyką, a w narożnikach postawiono okrągłe wieżyczki nakryte kopułkami. Na zboczach zamku od południa powstały ogrody, gdzie królewna – interesująca się botaniką i praktykująca ziołolecznictwo – uprawiała rośliny i krzewy. Po jej śmierci zamkiem władały kolejno: druga żona Zygmunta III Wazy, królowa Konstancja Austriaczka, po 1631 r. jej córka – królewna Anna Katarzyna, a w 1638 żona Władysława IV, Cecylia Renata. Od 1645 r. zarządzanie zamkiem przejmowały rodziny: Szczawińskich, Lubomirskich, Grudzińskich, Denhoffów i Wesselów.

Wojny szwedzkie, północna i siedmioletnia zrujnowały miasto i zubożyły jego mieszkańców, sam zamek – jak stwierdzono podczas lustracji w 1765 r. – wymagał nielicznych napraw. W ruinę obróciły się natomiast mury i zabudowania przedzamcza. Po pierwszym rozbiorze Polski Golub trafił w ręce królów pruskich. W zamku zmieniali się zarządcy, ale nie tylko nie zapobiegali niszczeniu, ale sami się do niego niejednokrotnie przyczyniali. Dopiero w 1904 r. przeznaczono  większą kwotę na niezbędne naprawy. Także w 1907 r. cesarz Wilhelm II, interesujący się architekturą zakonu krzyżackiego, znalazł środki na naprawę powstałych szkód. W okresie międzywojennym Golub i Dobrzyń należały do Polski – w 1920 r. w zamku urządzono muzeum regionalne, ale budynek znajdował się nadal w złym stanie.  

   Po II wojnie światowej z rezydencji pozostały tylko ruiny. Rozpoczęty w 1947 r. pierwszy etap odbudowy zakończył się w 1967 r. częściową rekonstrukcją zabytku, który dopiero w 1974 r. odzyskał większość stropów i dachów i podjęto decyzję o udostępnieniu Zamku turystom. Trwającą w latach 70. i aż do przełomu wieku odbudowę prowadzono metodami gospodarczymi co skutkowało nie zawsze szczęśliwymi rozwiązaniami. W 2005 r. dzięki projektowi "Rewitalizacja Zamku Golubskiego" realizowanemu w ramach Zintegrowanego Programu Operacyjnego Rozwoju Regionalnego możliwe stało się wykonanie siedmiu ważnych zadań remontowych i modernizacyjnych, które w pierwszym rzędzie poprawiły funkcjonalność obiektu. Największe wrażenie sprawia renowacja sal w północno-wschodnim narożniku Zamku. Pomieszczenia na parterze zaadaptowano na restaurację.