杨尚希魏时任天水太守；父杨承宾，任商州、直州、浙州刺史。尚希在八岁时父亲去世，十一岁时辞别母亲到长安上学，涿郡人大儒学家卢辩见到他后，很惊奇他的聪颖，让他人太学，他刻苦学习，深钻细研孜孜不倦，同辈的人都很佩服他。周太祖曾经在太学亲自参加以酒食祭奠先圣先师的释奠典礼，当时尚希只有十八岁，让他讲《孝经》，他言词优美，意旨深远。太祖很惊奇他的学识，赐姓普六茹氏，升为国子博士，又转任舍人。周明帝、武帝在位时，历任太学博士、太子宫尹、计部中大夫，赐爵高部县侯、东京司宪中大夫。周宣帝时，令杨尚希抚慰山东、河北。到相州后皇帝崩，与相州总管尉迟迥在府衙悼唁。尚希出来说："蜀公哭不哀而视不安，将有他计，吾不去，将及于难。"于是就在晚上从捷径跑回京都。到天明时，尉迟迥方才知道，即令数十骑追赶，未能赶上。到京师后，杨坚以尚希先祖的名望和他背离尉迟迥的功德，对他十分敬重。及到尉迟迥作乱屯步兵武陟时，杨坚派遣他督管皇家宗室兵将三千人镇守潼关。不长时间，又升任他为司会中大夫。
杨坚即帝位后，拜杨尚希为度支尚书，进爵为公。一年后，出任河南道行台兵部尚书，加银青光禄大夫。当时尚希看到天下州郡过多，就给文帝上表说："自秦统一天下废除分封制推行郡县制以来，汉、魏及晋，郡县数量和地域大小不断改变。我个人认为，当今郡县，比古代数量多了好几倍，有的地域不到百里，就设置好几个县；有的户不满千，就设置两个郡，官吏太多，耗费太大；吃皇粮的人增加了一倍，而税收却年年下降。吃皇粮的人中，真正的人才，百里挑不出一个，而国库支付一动就好多万，这些钱财从哪儿来。这真是民少官多，十羊九牧。'琴有更章之义，瑟无胶柱之礼'，问题是要除去闲职，并小为大。这样，国家财政就不会亏空，选举就容易选得贤才。这仅是一己之见，请陛下裁处。"文帝看完奏折非常高兴地表扬了他。于是下令撤销天下诸郡。不长时间，又拜他为瀛州刺史，还未到任，又奉诏出巡淮南，并担任兵部尚书。接着又转任礼部尚书，授上仪同。
杨尚希性情磊落宽厚，加之学识渊博，因此在当时很有名望，为朝廷所重用。隋文帝非常勤政，每日一早上朝处理政事，直到日偏西仍不疲倦。尚希对文帝说："周文王因太勤劳从政而损寿，周武王因会享乐而延年。希望陛下自己抓朝政大事，其它事责成宰辅去办，繁琐事务，你就不必亲自去管。"文帝听后非常高兴地说："你真爱护我呀。"尚希长期以来患有足疾，文帝对他说："蒲州出美酒，足堪养病，屈公卧治之。"于是出拜蒲州刺史，仍领本州宗团骠骑。尚希在蒲州很会为民办好事，很有政绩。他修渠引瀵水浇地，修筑河堤护田，开稻田数千顷，百姓跟上他大得其利。开皇十年（公元590）去世，时年五十七岁，谥日平。子杨昱，后改封丹水县公，官至安定郡丞。