秦以内史掌治京师，汉武帝时分置左右内史，太初元年（公元前104年）改右内史为京兆尹，分原右内史东半部为其辖区，因地属畿辅，故不称郡。职掌相当于郡太守，但参与朝议。治所在长安。三国魏辖区改称京兆郡，官名改称太守。西魏、周、隋仍称郡，改太守为尹。
唐代初期并没有设立京兆府。京师所在地的行政机构是雍州府，以高资格的亲王担任雍州牧，唐太宗、中宗、睿宗未即位之前都曾担任过这一职务。实际上这些亲王主要是挂个名，总大纲而已，真正主管雍州事物的是州府长史。
唐时京兆府办公地点在长安城西部的光德坊东南隅，京兆尹一般情况下为从三品官秩，手下有京兆少尹两名，还有功曹参军、司录参军、司户参军、司法参军、司兵参军、司仓参军、司士参军等相当于现今局一级的官员。京兆府下辖二十三个县，分别为万年、长安、礼泉、户县、蓝田、咸阳、三原、云阳、泾阳、栎阳、高陵、渭阳、昭应（临潼）、金城（兴平）、富平、武功、宜寿（周至）、好畤、美原、同官（铜川）、奉天（干县）、华原（耀县）、奉先（蒲城）。
唐朝中期以前，京兆尹住在自己的私宅里，每天走班。大中年间，唐宣宗特批钱两万贯令京兆尹韦澳在京兆府办公院内营造官邸。韦澳指派长安县尉李信主持建设工程，两万贯钱建成一座尊贵府邸后，还有余额上缴，在连续两次官员政绩考核中，韦澳都给李信打了上之下的高分。既然史料中刻意记载下余额上缴一事，可见当时的工程造价也是有相当大的水分的。
唐朝的京兆尹同汉代一样为官不易。关于唐时京兆尹的更换频率，白居易在其《赠友五首》之四一诗中写到：“京师四方则。王化之本根。长吏久于政，然后风教敦。如何尹京者，迁次不逡巡。请君屈指数，十年十五人。”诗中没有明指是哪十年，但从此诗的风格来看应是白居易前期的作品。白居易诗风的转折点在元和十年被贬为江州司马之后，仅从手头能够查到的资料看，从元和元年至元和十年八月，担任京兆尹的就有十四人次，“十年十五人”当不是虚指。
早在神龙年间，御史中丞卢怀慎就曾经直言官员更换频繁所造成的弊端，他认为“人之知吏之不久则不从其吏，吏知选之不遥有不尽其能，偷安苟且，脂韦而已。”脂韦的意思是圆滑、阿谄。白居易诗中“长吏久于政，然后风教敦”也是表明官员应该有稳定的任期。
所由官一般是指操办具体事务的基层官吏和差役，京兆尹虽然官??役。
唐代有相继再任京兆尹的，如刘晏、李岘、黎干、李鄘、第五琦、柳公绰、郗士美等。有父子先后担任京兆尹的，如柳公绰、柳中郢。有兄弟任京兆尹的，如李仲通（鲜于仲通）、李叔明（鲜于叔明）。有叔侄任京兆尹的，如韩迥、韩皋。
而玄、肃宗时期的崔光远则创造了另一项纪录，在不到三个月的时间内，三任京兆尹。
曾经辉煌过的长安城遭到了毁灭性的打击，从此失去了大国之都的地位。