保初年少入京，師事侍郎寶廷，與其子伯福為友，交游海內。善書法，其詩襟懷高曠，沉思淵旨，有王安石之風，熔鑄古今，不拘一體，著有《北山樓詩詞文集》。

光緒二十三年(1897)鑒于甲午戰敗，保初乃上《陳時事疏》，直“以亡國之說，告之于皇上”。冀其“怵危亡”而“謀富強”，被刑部尚書剛毅壓下未報，保初乃憤然引疾南歸，然而他的奏疏在上海報紙登了出來，以致出了大名。他未去職以前早有變法維新思想，梁啟超初入京才24歲，保初即視為“奇士”，并向文淵閣大學士孫家鼐力薦，梁因此得入自強書局。戊戌變法前后，他著文痛論阻撓新法之害。變法失敗后，譚嗣同等就義，他時已南歸，又寫《哭六君子》詩并“為亡人訟冤”。辛丑以后他又入京上疏歸政權給光緒皇帝，他同時寫信給袁世凱勸其“行桓文之事”，主旨在于支持光緒皇帝實行變法。袁曾在長慶幕府，與保初有兄弟之交，袁顯貴以后，保初勉以“君王神武丁多故，好建奇功答圣時”，但袁不采納，贈以重金，保初亦斥而不受。光緒三十一年(1905)東渡日本，舟過玄海灘時，有“舟人那識傷心地，遙指前程是馬關”(《乙巳游日本絕句》)之句，賦詩寄慨，憂傷國事。他又在上海《蘇報》案中，保護過入獄的章太炎，于是革命黨也認為朋友。他既維新又革命，還和先維新后保皇的康、梁保持聯系。等到黨禁和緩，保初始悄然回津，不久即患中風，手足偏廢，對于國事就少過問了。宣統三年春南歸上海，臥床兩載，于民國2年(1913)春病逝，葬滬靜安寺側。