Manoma, kad Paberžės dvaras įkurtas prieš kelis šimtmečius, o jo šeimininkai Šilingai žinomi tik nuo XVIII a. pab. – XIX a. per., kada jie pasistatė iki šiol išlikusius dvaro rūmus. Šie dvaro rūmai yra mediniai, pailgo stačiakampio plano, dvigaliai. Daugelį kartų remontuoti, bet išlaikyta pirminė eksterjero išvaizda. Pastate buvo 15 kambarių, kamara, virtuvė. Grindys dviejuose kambariuose buvo parketo, kituose – dažytų lentų.
Paberžės dvaro rūmai garsūs tuo, kad Paberžėje kunigavo 1863 m. sukilimo vadas Antanas Mackevičius, kuris pirmasis suorganizavo 300 sukilėlių būrį ir jiems vadovavo, o dvaras tapo sukilėlių štabu, ginklų kalve ir dirbtuvėmis. Sukilimą pralaimėjus, dvaro savininkas S. Šilingas buvo ištremtas, o jo dvaras 1868 m. atiteko caro valdininkui I. Tichejevui, kuris dvarą nuomojo vokiečiui Betcheriui, o pats čia negyveno. Paberžėje Tichejevas įsteigė mokyklą, mokinių paramos fondą.
Nuo 1993 m. dvare įsikūręs 1863 m. sukilimo muziejus.
Kėdainių rajono savivaldybės administracija, Finansų ministerija ir VšĮ Centrinė projektų valdymo agentūra 2009 m. birželio 15 d. pasirašė trišalę sutartį dėl 1863 metų sukilimo muziejaus, įsikūrusio Kėdainių dvasinės traukos centre Paberžėje, rekonstrukcijos. Autentiškai rekonstruotas ir viešiesiems poreikiams pritaikytas 1793 metais statytas vokiečių kilmės barono Stanislovo Šilingo dvaras, baigti muziejaus ekspozicijos modernizavimo darbai, restauruota 65 unikalių žibalinių lempų kolekcija. Investicijoms Islandija, Lichtenšteinas ir Norvegija pagal Europos ekonominės erdvės finansinį mechanizmą skyrė 1,33 mln. Litų ir 0,24 mln. litų skyrė Kėdainių rajono savivaldybė.
Rekonstruojant XVIII a. medinės architektūros pastatą, įrengtos šiuolaikinės šildymo, vandentiekio, nuotekų tinklų ir vėdinimo sistemos, pakeistos grindų, vidaus sienų ir lubų dangos. Atkurtas autentiškas Paberžės dvaro grindų parketas ir lubos ekspozicijų salėse, pakeistos dvaro durys, langai ir stogas. Stogas apšiltintas, apdengtas malksnomis, sutvirtintos perdangos. Šiuolaikiškai įrengtos palėpės erdvės, pritaikant jas konferencijų, seminarų organizavimui, kino filmų ir dokumentinės medžiagos peržiūrai. Rekonstruotame muziejuje bus daugiau galimybių rengti kultūrinius renginius, simpoziumus, dailininkų plenerus.
Rekonstruota ir modernizuota muziejaus ekspozicija. 1863 m. sukilimo muziejaus koncepciją padiktavo istoriniai faktai – sukilimo eiga, jo dalyviai bei dvaro pastatas, išlikęs per daugelį neramumų, kuriame įsikūręs muziejus. Siekiant kuo išsamiau lankytoją supažindinti su sukilimo priežastimis, eiga, skirtingomis dalyvių grupėmis, iškiliais asmenimis, ekspozicijos koncepcijos pagrindu pasirinktas raudonos ir baltos spalvų derinys bei dvipusiškumo aspektas. Būtent šios spalvos pasirinktos ekspozicijoje todėl, kad jos simbolizuoja sukilimo dalyvių grupes – „raudonuosius“ ir „baltuosius“. „Raudonieji“ – demokratinių pažiūrų piliečiai, dauguma jų valstiečiai. „Baltieji“ – LDK ir Lenkijos bajorai, šlėktos. Kai kuriose erdvėse įvedama ir tamsiai pilka spalva – tai trečioji sukilimo pusė, carinės Rusijos kariai. Ekspozicijoje sukurta dvaro atmosfera, supažindinama su sukilimo eiga ir pasekmėmis. Instaliacijos, kiti dizaino sprendimai (ekspoziciniai baldai, įvairių formų stendai, ekspozicinis apšvietimas) paryškina turimus eksponatus, o informacija lankytojui pateikta šiuolaikiškai, įdomiai ir įtaigiai.
Ekspozicijos pabaigoje lankytojas patenka į kitą ekspozicinę erdvę – žibalinių lempų pristatymą. Šioje salėje eksponuojamos muziejaus surinktos restauruotos ir konservuotos žibalinės lempos. Erdvė lengva, šviesi ir tuo labai artima dvaro stilistikai, lankytojui tarytum leidžiama emociškai pailsėti po buvusių įtemptų ir skausmingų temų. Šioje salėje pristatomas ir žibalinės lempos išradėjas – 1863 m. sukilimo rėmėjas Ignacijus Lukošievičius. 1853 m. Lenkijoje, Lvovo mieste, vaistinės „Po auksine žvaigžde“ provizoriui Ignacijui Lukošievičiui pavyko iš naftos išdistiliuoti žibalą. Tais pačiais metais, liepos 31 d. , Lvovo centrinėje ligoninėje I. Lukošievičiaus sukonstruotų žibalinių lempų šviesoje buvo atlikta operacija. Ji pavyko, chirurgai ir liudininkai apšvietimą įvertino. Pirmasis patentas žibalinei lempai buvo Vienos pramonininko, aliejinių lempų gamintojo Rudolfo Ditmaro 1855 m. lapkričio 3 d. Pirmoji žibalinė lempa vadinosi „Ditma“ s Patent – Lampenkugeln“. 1876 m. rugsėjo 13 d. Vilniaus miesto gatvės jau buvo apšviestos žibalinėmis lempomis. Žibalinės lempos plito dvaruose. XIX a. paskutiniais dešimtmečiais lempomis naudojosi Lietuvos miestelių gyventojai – tarnautojai, amatininkai, prekybininkai. Jos buvo gaminamos puošnios ir paprastesnės, didelės ir mažos, kelioninės, pakabinamos, pastatomos ir montuojamos prie sienų. Tokią žibalinių lempų įvairovę ir mato rekonstruoto 1863 m. sukilimo muziejaus lankytojai.
1863 m. sukilimo muziejaus edukacinės programos