茹太素，泽州人。洪武三年，乡举，上书称旨，授监察御史。六年擢四川按察使，以平允称。七年五月召为刑部侍郎，上言：“自中书省内外百司，听御史、按察使检举。而御史台未有定考，宜令守院御史一体察核。磨勘司官吏数少，难以检核天下钱粮，请增置若干员，各分为科。在外省卫，凡会议军民事，每缺乏协调致延误。请用按察司一员纠正。”帝皆从之。
明年，因坐累降刑部主事。陈时务累万言，其忠言深得太祖青睐。此后，他又被召见面对诘问，但他不畏惧直言真相，被杖责于朝堂。但第二日，又在宫中被迫重复其言论，并得出四条可行的建议。他慷慨地说：“作为君主与臣子都不是容易的事。我求的是直言切实，不愿意听到繁文缛节。”因此，他命令中书定下奏对的格式，让陈述得失的人简洁明了。
随后，将他的奏疏选出的可行部分下发给各部门，而太祖自己亲笔题写序言并颁布于朝廷和全国。这十年的努力，使他声名远播，在同僚曾秉正等人的陪同下，再次出任参政。不久，他奉命回到浙江老家养病，但很快就再次召回担任刑部试郎中。一月之后，他便升迁为都察院佥都御史，然后又降职到翰林院检讨。
十八年九月，他再次获得提升，为户部尚书。在这漫长的一生里，无论是面对权贵还是皇帝的怒火，都保持着自己的抗争精神和直觉。当一次宴会上帝赐酒时，他毫不犹豫地回答说：“我只图报效国家，不畏惧圣心焦虑。”这番话深深打动了帝的心，但最终仍然因为排挤詹徽而遭到牵连，最终因罪死去。他的一生，是一个关于坚持正义与勇于直说的故事，对后世产生了深远影响。
