首先，彻底废除分封诸侯的制度，实行郡县制，把全国分为36郡，均为中央政府下辖的地方行政机关。
他又以秦国原有官至为基础，对官制进行了调整和扩充。建立了一套从中央到地方的新的政府机构：在中央设有三公（丞相，太尉，御史大夫）和九卿（郎中令、卫尉、太仆、廷尉、治栗内史、少府、典客、宗正、奉常），可以对国家大政进行廷议，最后由皇帝裁决；
地方行政机构分为郡、县两级，郡设守、尉、监，县设令或长。并有相应的官吏考核制度。
为维护这种集权制度，秦始皇还颁布了严苛的封建法律，在全国统一实施。