木下顺庵出生于京都锦小路，早年曾跟随日本儒学大师藤原惺窝的高徒松永尺五学习，曾一度前往江户游历，得到了加贺国第一任藩主前田利长的赏识。
天和二年（1682），木下顺庵受江户幕府聘请，成为第五代将军德川纲吉的儒学教师。期间还参与了幕府《武德大成记》的编纂工作，与当时的大儒、德川幕府儒学大学头林风冈有过交流。这段时间，木下顺庵主要的致力于朱子理学的研究，同时也研修了古典文学。
木下顺庵更为人所熟知的身份是儒学教育家，其门下人才辈出，最著名的当属“木门十哲”。元禄六年（1693），第六代将军德川冈豊（后改名德川家宣）派遣使者高力忠弘为甲府的德川家族寻找一位儒家教师，木下顺庵想起推荐了自己的首座弟子、木门十哲之首的新井白石。
木下顺庵于元禄十一年（1698）死于江户。