Dešiniajame Gryžuvos upės krante stūkso Pagryžuvio dvaro romantinio stiliaus rūmai, pastatyti 1858 metais pagal žymaus to meto architekto F. Rimgailos projektą. XVIII a. pabaigoje Pagryžuvio dvaras priklausė didikams Šemetoms, o vėliau – Pšeciševskių šeimai. Po I pasaulinio karo dvaras buvo nacionalizuotas ir atiduotas jėzuitams. Be to, dvaras buvo stipriai apgriautas, per karą atsidūręs ant fronto linijos. Iki II pasaulinio karo rūmuose veikė jėzuitų vienuolynas, socialinės globos namai.
Gryžuvos kairiajame krante įrengtas Pagryžuvio piliakalnis. Iš šiaurės, šiaurės vakarų ir rytų, jį juosia Gryžuvos upė ir jos slėnis. Iš pietų prieina gretima aukštuma. Šlaitai statūs, 12-13 m aukščio. Aikštelė netaisyklingo ovalo formos, pailga šiaurės – pietų kryptimi, 11 m pločio, 18 m ilgio (buvo apvali). Aikštelės rytinė dalis ir šiaurinis šlaitas nuplauti Gryžuvos. Piliakalnis apaugęs lapuočiais, pomiškis iškirstas, aikštelė dirvonuoja. Pietvakarinėje piliakalnio papėdėje 1 ha plote yra papėdės gyvenvietė.
Dvaras privatus, lankymas viduje negalimas. Dvaro išorės apžiūrėjimas ir piliakalnio lankymas – laisvas.