咸丰二年，调署廉州。时岭峤群盗并起，李士奎、颜品瑶、黄春晚等分踞钦州之那彭，灵山之林墟，众数十万。棣辉至，出贼不意，率兵二千掩入那彭，歼之。急分千人趋林墟，贼空壁出关，棣辉已由间道入其巢，遂连克旁近诸贼垒。博白贼刘八伺隙袭廉州，驰还，遇贼五里亭，令列阵以待。贼疑有伏，稍引去，呼噪乘之，贼大溃。休兵十日而进，又歼贼灵山早禾涌，追至广西横州，斩刘八。廉州平。
总督徐广缙驻梧州，剿艇匪，檄棣辉出郁林，援浔州。贼舟数百围城，攻甚急。遣卒梯而入，约期会战，伏兵两岸，纵火焚贼舟，与城兵夹击，大破之。督诸军穷追，梧州水师邀击，沉贼舟无脱者。论功，加按察使衔。时广西贼窜湖南，徐广缙督师移剿，棣辉随参军事。广缙罢，叶名琛督两广，调棣辉回广东治军需。先已授广西左江道，至是调肇罗道。