永徽二年（651年），时年六岁的李素节受封为雍王，官拜雍州牧。李素节能日诵古诗五百余言，授业于学士徐齐联，精勤好学不倦，其父唐高宗很宠爱他。后改任岐州刺史。显庆三年（658年），李素节年十二岁，改封为郇王。
当初，武则天还不是皇后，与李素节的母亲萧淑妃争宠，相互谮毁。永徽六年（655年），武则天立为皇后后，萧淑妃被武则天谮毁，幽禁侮辱而被杀。李素节尤其被武则天嫉妒并时时向唐高宗进谗言，调任为申州刺史。
乾封初年（666年），唐高宗下敕：“李素节既有旧疾病，宜不须入朝。”但李素节实际上并无疾病。李素节自己因长久未去朝见，于是写了《忠孝论》来表意。当时王府会曹参军张柬之便暗将《忠孝论》进上，武则天见了，更加不高兴，诬陷李素节受贿，降封鄱阳郡王，还是在袁州安置。仪凤二年（677年），禁锢终身，又改迁到岳州安置。
永隆元年（680年），转任岳州刺史，后又改封葛王。武则天临朝，又晋封许王，任舒州刺史。天授年中（691年），他与泽王上金同被诬告，追赴京都。临启程时，李素节听有遭丧哭啼的声音，他对左右的人说：“病死都难得到，何须哭！”行至京都南龙门驿，被缢死，时年四十三岁，武则天命令以庶人礼安葬。唐中宗即位后，追封许王，追赠开府仪同三司、许州刺史，以礼改葬，陪于乾陵。
