Zrúcaniny hradu, ktorý bol postavený v 2.polovici 13.storočia, sa nachádzajú nad mestom na homoľovitom kopci v nadmorskej výške 417m.
Začiatky tohto pôvodne kráľovského hradu sú zatiaľ nejasné. Bol však zrejme vybudovaný kráľom na ochranu kráľovských regálnych práv, a to najskôr po tatárskom vpáde. V roku 1437 sa spomína ako castrum Gylnich. V polovici 15.storočia bol hrad v rokoch 1447-1462 v rukách jiskrovcov. V roku 1460 sa spomína ako Gilnicza. Po porážke jiskrovcov hrad aj bane daroval kráľ rodine Zápoľských. V roku 1469 sa spomína ako castrum Gelnecz. V čase nepokojov a bojov o uhorský trón medzi Jánom Zápoľským a Ferdinandom I. bol hrad v roku 1528 značne poškodený. Po porážke Zápoľského ho kráľ v roku 1531 daroval Alexovi Turzovi, ktorý zničený objekt v polovici 16.storočia znovu vybudoval a zväčšil. Hlavnú pozornosť sústredil okrem renovácie obvodového opevnenia na prestavbu a dostavbu interiéru hradu. Vymretím Turzovcov po meči prešiel hrad v roku 1636 do rúk šľachtickej rodiny Čákiovcov. V období stavovských povstaní hrad často menil majiteľov a bol svedkom mnohých bojov, ktoré sa mu napokon stali osudnými. V roku 1685 vyhorel a začal chátrať. Proces zániku urýchlila ešte v 19.storočí (po roku 1839) stavba mestskej radnice, ktorá bola postavená z hradného materiálu, resp. jeho ruín. Svoju úlohu zohralo aj vedomé devastovanie objektu.
Na okraji vrcholovej plošiny s elipsovým pôdorysom a rozmermi 100x85m je murované, 130cm hrubé, obvodové opevnenie. Na juhovýchodnej strane, takmer oproti vstupu do opevneného areálu, obvodové opevnenie vyúsťuje lievikovito do pravidelného výbežku, ktorý jeho okraj presahuje asi o 10m. Predpokladá sa, že tu pôvodne stála viacpodlažná obytná veža (10x10m), ktorá sa postupne prebudovala na výlučne obranný objekt. Vežová stavba mala 130-170cm hrubé múry a štrbinovú strieľňu v pôvodnom druhom podlaží. Nad trámovým stropom tohto podlažia bol okenný otvor 120x120cm s jednoduchým záklenkom a rovnými špaletami. Objekt bol smerom do svahu zosilnený dvojicou operákov na nárožiach. Oproti veži bol vstup do hradu a v areáli boli pravdepodobne hospodárske budovy.
Najvyššia a najrozsiahlejšia ruina pôvodného hradu je torzo viacpodlažnej vežovej stavby s okenným otvorom, strieľňou a dvoma operákmi. Z pôvodného vstupu oproti veži sa zachovalo torzo obvodového opevnenia, z ktorého vybiehal kolmo do interiéru ďalší múr. Počas výskumu vlastivedných pracovníkov Badíka a Bernátha sa podarilo zachytiť mierne obdĺžnikový priestor, do ktorého sa vstupovalo úzkou chodbou, na opačnej strane bola vetracia šachta. Objavená podzemná architektúra je zrejme výsledkom mladšej stavebnej činnosti a súvisela so zabezpečením vstupu do hradu. Z obvodového opevnenia sa zachovali iba nepatrné zvyšky.