増輔から増陽に代になっても、明和・寛政の治の効果は少なく、窮乏は増すばかりであった。「浄法寺高保覚書」中の文化七年(一八一〇)十一月朔日の記には、家老・物頭・御勝手懸・御側用人・大目付・両奉行・台所役・作事迄御用部屋に集り、収納米・永并払方差引高之積帳によって内談している。「実ニ不一通御差支故御家中御借上被 仰付外無之御暮し方万事五千石位之積り立ニて御暮被成候外者有之間敷」と決し、諸評議手続を経て十二月十九日全く決評、廿六日惣登城の席で仰渡された。増陽は病弱でこの席に出座できない程であった。増陽には三人の弟と実子果治郎がいたが、養子を迎えることになった。「高保覚書」中の文化八年二月十五日、家老衆は高保登城を汰沙し、御用部屋で内談した。「此節御勝手向必至と御差支御取続も相成兼御家中御譜代之者行〻者御暇被下候様之御時節可相成段被成 御承知第一者御家中御救之 御思召ニて 御病身御申立被成御隠居被成御願金子御持参ニ而も有之方ゟ御養子被成候思召之旨拙者共へ御内意被 仰出候得共恐入候」という次第であった。決しかねていたが、再三の御意であり、動かし、難いと頻りに家老衆より申聞されたので止むなく「御請可然段及挨拶也」と決定した。諸役者とも内談、加藤遠江守様御役介御叔父様舎人様をあげ取進め、同九月十一日大関家に引移り、同十一月二十四日家督を継いだ。
増業は藩政改革に当り、特に財政建直しに意を尽した。増業の方策は、先ず強い領主権力の確立のため、古格古法を改め、財政建直しのため倹約の仕成をよりすることであった。『創垂可継・親諭巻』に文化八年十一月家督後の御自筆仰渡し書五通を載せている。「家老始諸士之者江。家老并詰役人共江。小児性納戸近習之者共江。徒士以下下〻扶持人共江申渡覚。農民并町人共江。」である。増業の覚悟の程が知られる。
「家老始めの諸士江」の親書には、「此迄之あゆミにてハ国家ノ安危之所も難斗実以寝食も不易存候我今より十年之内に者国用足り士民少しくは安からしめんこと寸分之孝とする所なり是故諸有司も今迄之格法を離れ古法を潤色して 護国玄梁二君之御志を継て質素を本とし威武威法を厳重に行と思ふ云々」
「家老并諸役共江」の親書には、「来申年より六ケ年之間ハ一端に諸向を少略倹約いたし其間に緩〻永久之国法を考て六年に満る時万古不易之良法を出す存念なり云々」
以後、仰渡書を頻発したが同書中の文化十一年(一八一四)九月「財政たてなおしの心得仰渡」に「享保年中以来之収納を見るに凡二万石(略)宝暦年間より(略)一万千俵之収納ニ至天明年中以来(略)僅に平均して見るに一ケ年一万二三百俵なり然者永代物成一万俵之収納を定式とし細方ハ二千両之所今ハ千五百両之平均なれは一万俵に千四百両之募(暮)方を本とし云々」すなわち、藩財政は、物成は、一万俵・畑方は千四百両の暮し方が適当であるので倹約に一段と心がけることを求めている。
家中借上げの外、新たに積立金仕方も設けられた。文化九年十一月(一八一二)積立金之事(那須町滝田馨家文書)によると、十五ケ年間、年五拾壱両が家中諸士・手元・奉公人・町人(二人)によって積立てられ、貸付による利を得ようとしている。
なお、文化八年(一八一七)から文政九年(一八二六)の「献納金ならびに御用立金御調書」(那須町滝田馨文書)は、豪商高柳源三衛門家のものだが、十五年間に献納金は四千四百両(外に先代よりの分四千五百弐拾六両壱分永拾六文)、御用立金は約六千七百両(金利除)合せて一万一千百両余になっている。『創垂可継・租入会計録』によると、増業の財建直し見積として立てられたが、その中で運上金五百両とあることからみると、大巾に上まわっている。ほかに、御本城御門御普請のためお手伝金として、金百両と米拾俵を大輪村忠左衛門・同所新兵衛・向町源蔵が献納している(大輪吉成隆家文書)
増業は、十年の内にとの公言も実らず、文政六年五月家中挙げての不人気により、隠退を決意し翌七年七月致仕した。