曾国藩的起居日子十分俭朴。穿衣方面，曾国藩素常穿戴家人为其织的土布衣服，不着绸帛。一件天青缎马褂是曾国藩最佳的衣服。这件衣服只在新年和严重庆典时才拿出来用，素常便放在衣橱里，因而用了三十年仍然犹如新衣。旁人提及此事，曾国藩道：“古语云，衣不如新，人不如故。然吾观之，衣亦不如故也，试观今天衣料，有如当年之精者乎？”曾国藩升任总督后，其鞋袜仍由夫人及儿媳女儿制造。
每晚总督府内，曾国藩夜阅公务，全家长幼女眷都在麻油灯下纺纱绩麻。这在其时的督抚大员中可说是绝无仅有。就餐上，曾国藩亦不考究，简略备至。通常他每顿饭只要一个菜，“决不多设，虽身为将相，而自奉之啬，无殊寒素”。时人以曾国藩就餐简略，每食仅菜一品，谐称之为“一品宰相”。为发起节俭，教育家人，曾国藩于大堂上亲书一联：“惜食惜衣，不唯惜时兼惜福；求名求利，但知求己不求人。”
从寓居方面看，曾国藩对立大兴土木，在家园建筑巨宅。曾氏湘乡旧宅已有百余年前史，曾门朋友兴隆后人丁日渐兴隆，亦经常有客人登门拜访，旧屋多少显得有些不合时宜。1865年，曾国荃出资七千串铜钱将旧宅改造一新。曾国藩得知后十分生气，认为九弟“奢侈若此”，新房入住则易，搬出却难，此种作法没有为后代后代做出好的典范，贻害无穷。“生当浊世，居家之道，不行有余财，多财则终为患害。又不能够过于安逸偷惰。如由新宅至老宅，必宜常常走路，不行坐轿骑马。又常常登山，亦可操练筋骸。仕宦之家，不积蓄银钱，使后辈自觉一无可恃，一日不勤，则有饥寒之患，则后辈逐渐勤劳，知谋所以自立矣”。一怒之下，他立誓绝不踏进新宅半步。曾国藩每次回乡都住旧宅，平生从未进过新屋。曾国藩还对立家中置办私田。他在日记中写道：“余生平以起屋买田为仕官恶习，誓不为之。”咸丰五年，欧阳夫人在衡阳娘家私自买田置地，曾国藩知晓后立行将土地转让出去，并在家信中表达了对立置田的情绪。
曾国藩日子俭朴，源于他出自亦耕亦读的农人家庭，深受良好家风的熏陶。曾国藩爸爸曾麟书有意效法林则徐之父，将林父家训中“粗衣淡饭好些茶，这个福老夫享了；齐家治国平天下，此等事由儿任之”的名联略作改动，变为曾氏家训：“有后代有田园家风半耕半读，但以箕裘承祖泽；无官守无言责世事漠不关心，且将艰巨付儿曹。”曾国藩成名后，承继爸爸的治家经历，亦将林则徐作为典范。他在写给曾国荃的信中道：“昔年林文忠公有三个儿子，分家时各人仅得钱六千串。林公身膺督抚要职二十余年，其家底清寒如此，高风劲节，实不行及。我辈朋友真实应向林公学习。”
曾国藩为官的过人之处一方面来自个人品高清凉，另一方面来自勤于任事。曾国藩中进士后任职京官七年，从未回过家园。他在“梦寐当中，不时牵挂堂上白叟”，“如堂上有望我回家之意，则弟信件于我，我概将家眷留在京师，我当即回家。如堂上白叟全没有希望我归省之意，则我亦不敢草率行事”。可见，曾国藩不回乡自有不得已的苦衷。曾国藩归结不能归省有“三难”：“现在京寓欠帐五百多金，欲归则无钱还帐，而交游途费亦须四百金，甚难措办，一难也；不带家眷而归，则恐我在家或有事留住，不能遽还京师，是两头牵扯，如带家眷，则途费更多，家中又无房子，二难也；我一人回家，轻身快马，不过半年能够还京。第开缺以后，下一年恐尚不能补缺，又须在京闲住一年，三难也。”
从中不难看出，曾国藩所谓“三难”，均与其经济窘迫有关。前两难发愁的是旅费无从筹集，后者则是若赋闲京师则失去经济来源。其时曾国藩已为翰林院侍讲学士，四个月后又升授礼部侍郎，可算居京官高位。然他连回家探亲的旅费都难以筹集，清凉程度可见一斑。清代官员俸禄十分菲薄，等第最高的正一品大学士年薪不过银一百八十两、米一百八十斛。如此低价的俸禄明显不能坚持官员的根本开销，贪婪之风天然蔓延。雍正、乾隆两帝努力惩贪，推出当地官“养廉银”和京官“恩俸”、“双俸”制度。“养廉银”制即“耗羡归公”，此项数目巨大，可谓开高薪养廉之滥觞，通常来讲，督抚一级的当地最高长官养廉银超出正俸近一百倍，最低一级的知县亦超出正俸几十倍。
相比之下，京官则要低很多。“恩俸”只发给“六部堂官”，即各部尚书和侍郎。“双俸”发给大学士、“六部堂官”双俸双米，其他京官双俸单米。“正俸”、“双俸”以外，京官的合法收入还有差事和科考、捐纳的“印结费”。然京官若想过充足日子，便得索收当地官的礼品银钱，如冬季的“炭敬”、夏天的“冰敬”等。可见，清代官员想要坚持清凉的操行着实不易。
曾国藩为改变官场根深蒂固的贪婪纳贿之风，曾在三十岁时立誓，终身坚持清凉之身。他誓云：“以当官发财为羞耻，以宦囊积金后代为可羞可恨，故私心立誓，总不靠当官发财以遗后人。神明鉴临，予不食言。”曾国藩临终前仍不忘此誓，留下遗言：“余若长逝，灵枢自以由运河搬运回江南归湘为便。沿途谢绝全部，概不收礼。”
