Im 12. Jahrhundert entstand Göllnitz, als bayrische Bergleute aus Südostdeutschland hierherkamen und sich mit der ursprünglich slawischen Landbevölkerung vermischten. Wegen der reichhaltigen Erze von Gold, Silber und anderen Metallen wurde Göllnitz bald zur bedeutendsten Bergstadt im damaligen Oberungarn.
Zu den kulturellen Denkmälern der Stadt gehören die Ruinen der gotischen Burg aus dem 13. Jahrhundert, die gotische Kirche des 14. Jahrhunderts und das barocke Rathaus aus der Mitte des 18. Jahrhunderts, das aus einem Renaissance-Gebäude umgebaut wurde.
Außerdem findet man hier noch einige barock-klassizistische Bürgerhäuser, teils mit typischen Mansardendächern, sowie volkstümliche Architektur von Bergmanns- und Handwerkerhäusern aus dem 19. Jahrhundert.
Ein bedeutendes architektonisches Kulturdenkmal ist auch die überdachte Holzbrücke aus dem Jahre 1831.