余联沅在咸丰十一年考中举人。同治元年，余联沅凭才能考试，优增生中式；同治四年（1865），呈报
捐纳内阁中书。同治七年（1868），余联沅由
内阁中书考取
军机章京。?
光绪帝登基，余联沅补任
军机章京。光绪二年，余联沅校勘刷印《方略》竣工，经军机大臣保举升任待补
翰林院侍读。光绪三年（1877），殿试考取一甲第二名，授
翰林院编修，充任
国史馆协修。光绪七年，余联沅在
军机处校勘印刷《列圣圣训》，卓有功绩，又经军机大臣保举，赏加五品衔。光绪十年，余联沅考取御史，任功臣馆纂修。光绪十四年，补任河南
道监察御史。同年，以
给事中出任顺天乡试同考官。光绪十五年，充任
会典馆协修。后来，又稽查南新仓事务，奏陈种种时弊。此外，余联沅专门上奏科考场中枪手假冒、试官舞弊等事，请皇帝下旨，令部臣当场申明原有的条例章程，着力检察。不许考生假冒、蒙混入场，进入号舍后立即封闭。指出监考官不要为图宽厚名声而放纵，要认真防范多年积下的种种弊端，真正为国家选拔实用真才。光绪帝一一采纳。
光绪十六年，余联沅被选拔为会试同考官。因御史任满，皇帝下诏让他补知府缺。这一年直隶（今河北）黄河决口，余联沅上奏：由于地近京城，灾害严重，赈济钱粮不够，请再拨国库银两及稻米。此外，请对赈捐章程灵活掌握，从南方购米北运，以解决实际困难。皇帝责令交部议，准予施行。余联沅转任四川
道监察御史，年底，再一次京察，余联沅获一等。光绪十八年，充任
会典馆纂修。光绪十九年，余联沅升为礼部
给事中，补福建盐法道道员。光绪二十年二月，余联沅京察获一等，记名以道府用。出任会试磨勘官。不久，授余联沅
苏松太道员。光绪二十四年，任福建按察使。?
光绪二十五年，余联沅充任福建布政使。当时闽江上游有个险滩，水流湍急而且四处常有漩涡，险象环生，人称为关刀嘴。来往船只，尤其重载的商船忧心忡忡。当地的人由于迷信风水，不敢动土，使关刀嘴为害一方。余联沅委派官员并亲自督促施工，穿凿破碎，使河道等处得以治理。水旱两路通畅，人们来往通行十分方便。百姓交口称赞，此举实在大大便利了民众。这一年，余联沅在江淮再一次完成了捐款赈灾工作，被朝廷嘉奖，赏赐
顶戴花翎。凭借妥善处理洋务有功，又赏赐二品顶戴。?
光绪二十六年，北方义和团轰轰烈烈，余联沅正在上海出任沪道。
张之洞、
刘坤一派余联沅在上海租界与各国领事馆接洽订立《东南保护约章》，史称“东南互保”。所谓“分租界内外，互相保护，各不侵犯。中外安宁，地方无恙，沿江各省，赖此以安。”余联沅天性廉俭。
苏松太道辖区富甲天下，他还兼管江海关务，尤为肥沃。关署按旧例，馈银八千两，余联沅全部拨给了上海龙门书院作经费，士林学子多受益于其中。后调任江西任按察使，又充湖南布政使，在此期间，余联沅又一次完成筹集巨款，捐助陕西赈灾的任务，皇帝颁奖赏赐余联沅头品顶戴，署任浙江巡抚。光绪二十七年三月，诏令余联沅回湖南任布政使，署理浙江巡抚。派他查阅浙江营伍，有技艺生疏、以老充数及军实不齐等弊，即将该管将弁据实严参。只因他人上奏浙江痼习太深，传谕令他确查。四月，因盐务为馕源大宗，著余联沅体察各地，悉心查证情况回任。不久，余联沅因病辞去湖南布政使职务。光绪二十八年命余联沅以湖南布政使，署浙江巡抚。衢州教案发生，又奉命调处教案，经8个月结束，即赴沪就医。1901年11月，余联沅因病身亡，终年57岁。官至湖南布政使巡抚。上海曾为之建立“余公祠”。
