春秋战国时期,燕国与齐国为临,齐强燕弱,燕国经常受欺负,直到燕国国王重用用乐毅,乐毅巧妙的利用赵、魏等临国与齐国的矛盾，得到了他们的支持，帅燕国儿郎南下罚齐,连下齐过70座城池，连齐国的首都临淄也攻破，把齐过掠夺燕国的宝物都抢了回来，燕国声明大振，因此位列战国七雄，乐毅功成身退，后来汉高祖刘邦（公元前197年）到处寻访乐毅的后人，终于在今天的饶阳小堤找到了乐毅的孙子乐叔，于是建立乐乡侯国，封他为乐乡候，都城就是今天的小堤，在小堤村东南的乐乡庙就是遗址。
西汉初村名乐乡，高帝过赵时，询问乐毅的后代，得其孙乐叔，。随封乐叔于乐乡。建乐乡侯国，又置乐乡县。县城在今小堤南4里许，乐乡寺即其遗址。东汉初，乐乡县并入饶阳，这里随成乐乡村。
明永乐年间，滹沱河泛滥，淹毁乐乡村，村民们迁至北面的小北堤上重建家园，改名为小堤。因该村建于东西走向的小北堤上，所以至今还是东西长南北窄中间高四周低的地势。清雍正二年，因饶阳属深州，，增杨各庄，小堤为附设，又于小堤设集市，故称小堤镇。