Tuo metu Lietuvoje buvo spaudos draudimo metai. Knygos lietuviškais rašmenimis buvo draudžiamos spausdinti. Juozas įstojo į slaptą Garšvių knygnešių draugiją ir slapta ėmė platinti uždraustas lietuviškas knygas. Iš pradžių buvo pardavinėjamos maldaknygės. Jis palaikė labai artimus ryšius su pažangiu kunigu Jonu Karbausku. 1904 metais gegužės 7 dieną spaudos draudimas Lietuvoje buvo panaikintas. Dabar galima buvo atidaryti knygyną legaliai. Tam reikėjo gauti carinės valdžios leidimą. 1905 metais spauda jau rašė, kad Panevėžyje veikia J. Masiulio knygynas. Jis veikė tuometinėje Bajorų, vėliau Respublikos gatvėje. Tai buvo pirmasis lietuviškas knygynas Panevėžio mieste. Knygynas veikė nuomuojamose patalpose, vėliau tas patalpas J. Masiulis su žmona ir įsigijo. Žmonės noriai pirko knygas, maldaknyges, įvairias plataus vartojimo prekes. Verslas neblogai sekėsi.
1908 metais Juozas Masiulis vedė Juozapotą Kuzmaitę iš Panevėžio apskrities Pumpėnų valsčiaus. 1909 metais gimė duktė Onutė, o 1911 metais sūnus Jonas. Abu sutuoktiniai darbavosi knygyne, o vaikus prižiūrėjo auklė. Prie knygyno verstasi ir įvairia ūkine veikla. J. Masiulis palaikė ryšius su J. ir M. Šlapelių, J. Zavadskio, S. Banaičio ir kitais garsiausias Lietuvos knygynais. Knygynas kartu pardavinėjo ir žvakes, įvairius kalendorius ir kitas įvairias prekes. Daug prekių gaudavo iš M. ir J. Šlapelių knygyno Vilniuje. Šalia knygyno veikė ir rašymo reikmenų parduotuvė.
Pirmojo pasaulinio karo metais J. Masiulis su šeima pasitraukė į Smolenską. Paskelbus Lietuvos nepriklausomybę, grįžo į Panevėžį. 1919 metais į Panevėžį sausio mėnesį įsiveržė Raudonoji armija. Norėdami prasimanyti pinigų jie įkaitais paėmė žinomus panevėžiečius ir iš jų reikalavo išpirkos. Tarp nelaimingųjų atsidūrė ir Juozas Masiulis. Teko pasėdėti ir Panevėžio kalėjime. Už užstatą iš kalėjimo buvo paleistas. Tuo metu kūrėsi nepriklausoma Lietuvos valstybė. Virė aktyvus politinis gyvenimas. J. Masiulienė dalyvavo rinkimuose į Panevėžio miesto tarybą ir buvo išrinkta. Pirmojoje Panevėžio miesto taryboje ji dirbo nuo 1919 metų rugsėjo 8 dienos iki 1921 metų birželio 30 dienos. Vėl J. ir J. Masiuliai ėmė verstis knygyno verslu. Užmezgė ryšius su Latvijos, Vokietijos, Prancūzijos knygynais. Augo ir darbuotojų skaičius. Tuo metu knygyne darbavosi 8 darbuotojai. Jie gyveno knygyno antrame aukšte, buvo maitinami už šeimininko lėšas. Knygynas dirbo be pietų pertraukos. Knygyno darbuotojai gaudavo visai neblogus atlyginimus. Jie siekė apie šimtą litų. Ypač didelė prekyba būdavo švenčių dienomis. Nuo 1932 metų knygyne dirbo ir mokslus baigusi dukra Ona Masiulytė.
Juozas Masiulis garsėjo kaip didelis mecenatas. Jis daug prisidėjo prie Šv. Stanislovo bažnyčios statybos. Ši bažnyčia pastatyta kaip Panevėžio Kristaus Karaliaus Katedra. Garsiausia Panevėžyje labdaringa organizacija buvo Šv. Vincento ir Paulo draugija. Ji rūpinosi senelių namais, taip pat vaikų našlaičių globa. Juozas Masiulis buvo šios draugijos valdybos narys. Savo lėšomis J. Masiulis paremdavo šios draugijos veiklą. Juozas Masiulis garsėjo ir kitais mecenatiškais poelgiais. Jo lėšomis 1929 metais buvo pastatytas medinis kryžius ant tais metais mirusio kunigo Jono Karbausko kapo senosiose Panevėžio kapinėse. 1938 metais ant to paties kunigo kapo J. Masiulio lėšomis buvo pastatytas paminklinis akmuo ir kryžius. 1924 metų pabaigoje Panevėžyje buvo įkurta skautams remti draugija. Jai priklausė ir Juozas Masiulis. Ši draugija nuveikė nemažus darbus, nes jai priklausė daug žinomų panevėžiečių.1931 metais Juozas Masiulis buvo išrinktas Panevėžio miesto savanorių ugniagesių draugijos valdybos nariu. Ši draugija savo istoriją vedė dar nuo 1906 metų.
Juozas Masiulis aktyviai dalyvavo ir Panevėžio miesto politiniame gyvenime. 1931 metais rinkimuose į miesto tarybą surinko 1025 balsus ir buvo penktas pagal surinkų balsų skaičių. Pasiekęs tokius rezultatus J. Masiulis pateko į Panevėžio miesto tarybą. Aktyviai dalyvavo ir miesto tarybos veikloje. Į miesto tarybą išrinktas ir 1934 metais. Nuosekliai dirbo iki savo mirties. Mirė 1940 metais kovo 26 dieną. Palaidotas kovo 29 dieną. Prasidėjus sovietinei okupacijai šeima buvo išblaškyta. Reikėjo trauktis į vakarus. Žmona mirė JAV 1963 metais. Dukra Ona mirė JAV 2000 metais. Sūnus Jonas mirė Šveicarijoje 1995 metais. J. Masiulio knygynas ir toliau prekiauja knygomis ir šiuo metu.