稽胡也是一个古老的民族，又称山胡、步落稽，源于南匈奴。南北朝时居住于今山西、陕西北部方圆七八百里的山谷间，种落繁盛，他们从事农业生产，辅以蚕桑，以麻布为衣，与汉人杂处。
北魏孝昌元年（525），汾州（治今山西汾阳市）稽胡首领刘蠡升借北方群起反魏、中原板荡之机，在云阳谷（在今山西右玉县东北云阳堡）聚众举兵反魏，自称天子，建年号“神嘉”，置署百官，建立起地方民族政权。他以云阳谷为根据地，不断遣兵四出，骚扰北魏的边境，魏廷深以为患，诬之为“胡荒”。但当时北方大地叛乱四起，北魏朝廷剿不胜剿，一时也腾不开手来征剿威胁并不算太大的刘蠡升，刘蠡升也没有太大的野心，只是在山西中北部搞些小打小闹的骚扰，因而得以偏据北方一隅，一晃儿就是近十年。
十年工夫，沧海桑田，北魏政权也走到了历史的尽头。534年，称雄北方、立国149年的北魏帝国一分为二，高欢立清河王元亶之子元善见为帝，迁都于邺城，是为东魏；宇文泰毒杀魏孝武帝，立南阳王元宝炬为帝，定都长安，史称西魏。
东魏建立的第二年正月，东魏丞相高欢发兵袭击刘蠡升。
十年没有遭受战火袭扰的稽胡人早已失去了应有的警惕，领袖刘蠡升也是高枕无忧，疏于戒备，结果被高欢的突袭得手，大破毫无防备的稽胡人，刘蠡升只得率众退守云阳谷中。老谋深算的高欢见云阳谷地势险要，易守难攻，遂使用和亲的诡计，遣使与刘蠡升约和，并许诺将自己的女儿许配给其太子为妻，同刘蠡升结为儿女亲家。刘蠡升太过实在，相信了高欢的诚意，遂派遣太子到邺都迎亲；高欢对这个假女婿是厚礼相待，却借故推缓婚期，暗中调兵遣将图谋奇袭。
刘蠡升见双方讲和，又结成姻亲，于是便失去了戒心。高欢见刘蠡升中计，麻痹无备，便出其不意举兵攻袭刘蠡升。失去警惕的刘蠡升被打得大败，无力支撑，便亲率轻骑外出征调兵马，其部将趁其不备斩下刘蠡升的首级，投降了高欢。
刘蠡升的余众仍坚持斗争，复立其三子南海王为帝，继续反抗朝廷。高欢不肯养虎遗患，进兵攻击，生擒了继任皇帝，并俘获了皇后、诸王、公卿以下四百余人，得汉胡五万余户，建立十年之久的稽胡政权灭亡。