劉春霖幼時在老家河北肅寧縣北石寶村讀私塾，深知農村兒童讀書之不易。所以，他高中狀元之后，不在老家修狀元府光耀門庭，而在北石寶村修建了一所小學堂，學堂的房屋、桌椅、教具，均由劉春霖出資捐助。他在學堂門口題有“鑄才爐”匾額一方，并立有石碑，刻有他作的《勸學篇》一文。這所北石寶小學堂是肅寧縣唯一的“義學”。

　　劉春霖關心鄉梓教育，不僅慷慨解囊，而且盡心盡力。有一年，肅寧縣建立“師資講學所”和“高級小學堂”，劉春霖的入室弟子、校長吳友梅(清朝末科秀才)，特請劉春霖為學堂書寫抱柱對聯，劉春霖大筆一揮，寫下“天開新學界，地 古遺風。”10個大字。同時，吳友梅又請劉春霖為學堂編寫校歌，劉春霖亦欣然應允。那校歌歌詞是：

　　“地 古遺風，毛公設帳，董相傳經。荊軻故里，武垣城。儒文俠武，燕趙遺風。莘莘學子，負笈來從，普被時雨并春風。春風暖，雨露濃，高門桃李及時榮。”

　　毛公，指漢時毛萇，以傳講“詩經”聞名，曾在肅寧設帳授徒。董相，指董仲舒，曾在肅寧講學。荊軻系刺秦壯士，相傳曾在肅寧境內，該縣有荊軻村。武垣城，漢時建，在肅寧城南。劉春霖在歌詞里運用這些典故，說明肅寧自古以來便文風很盛，以此激勵家鄉人努力學習。

　　劉春霖不僅在家鄉興學，而且把教育擴展到京城。他在北京居住多年，結識了旅居北京的許多河北籍知名人士，辛亥以后在北京建了一所“燕冀中學”，供同鄉在京子女們學習。這所中學分男、女兩校，男校在外城廣安門大街，女校在內城西什庫后庫。劉春霖為建校捐款贈書，并在“燕冀中學”董事會董事。時間不長，這所中學在京有了名氣，規模日益擴大。學生來源不僅僅限于河北一省，也招收各省市的學生。當時的女校，成為北京市有名的私立學校之一。劉春霖與當年著名抗日將領宋哲元將軍交誼很深。劉春霖向宋哲元建議創辦一所學校，以教育、培養青年。宋哲元接受了劉春霖的建議，便很快籌建了“明軒中學”(宋哲元字明軒)。嗣后，該校成立董事會，宋哲元為名譽董事，劉春霖為董事，并捐贈圖書，使學校建起了圖書館。

　　據聞，當年劉春霖在肅寧縣北石寶村學堂立的那塊刻有《勸學篇》的石碑，迄今仍存。