裴行俨骁勇善战。大业十三年（617年），其父
裴仁基讨伐
瓦岗寨，虽累有胜利，但屡遭监军御史萧怀静陷害。于是裴仁基父子杀萧怀静，率众投归
瓦岗寨。瓦岗寨首领李密封裴仁基为上柱国、河东郡公，裴行俨为上柱国、绛郡公。
武德元年（618年），李密与
王世充决战，裴仁基献计分兵偷袭
洛阳，但不被李密所采纳。结果李密战败，裴氏父子被王世充所俘。王世充因为裴氏父子都是骁将，很是礼遇他们，把兄长的女儿嫁给裴行俨。
武德二年（619年）四月，王世充称帝，任命裴仁基为
礼部尚书，裴行俨为左辅大将军。裴行俨每有攻战，都所向披靡，号称“万人敌”。王世充忌惮裴行俨的威名，对他很有些防范和猜忌。裴仁基知道王世充的意思，心中很是不安。同年五月，裴仁基与裴行俨、尚书左丞宇文儒童、尚食直长陈谦、秘书丞崔德本等数十人谋反。裴仁基令陈谦在给王世充进食时，拿匕首劫持王世充，令裴行俨率兵在台阶下接应。等大局已定，就复立越王
杨侗为皇帝，并辅佐他。事变快开始时，将军张童仁得知他们谋划，向王世充告发他们，王世充将裴仁基等人全部杀死，并灭他们的三族。
