比利牛斯山犬为人类工作的历史已经有几个世纪,没有其他的犬种能够与它相媲美。人们曾发现青铜器时代比利牛斯山犬的化石,由此可以粗略推断比利牛斯山犬在公元前1800-前1000年之间在欧洲出现,是由来自亚洲地区的藏獒与生存在欧洲的土著犬种交配繁衍而成的优秀犬种。也有人认为斗牛獒犬是比利牛斯山犬的祖先,因为人们发现在大约公元前3000年的古巴比伦的画中出现了斗牛獒犬,其体形和外貌特征与比利牛斯山犬很类似。
在比利牛斯山脉出现后,比利牛斯山犬得到了很好的繁殖发展。在高山地区的草原上,这种犬被用来保护牲畜群,以免它们受到大型野生动物和小偷的骚扰。比利牛斯山犬在中世纪前一直生活在高山上,出于对其工作能力和美丽外貌等优良种性的欣赏,几个世纪以来,该品种一直是作为纯种来培育和饲养。由于它纯白的外表还被称为“比利牛斯山会移动的雪堆”。
15世纪,比利牛斯山犬被用于警卫方面,它们与警卫们一起看守城堡,还在监狱中与看守们一起执勤。1675年,法国皇太子在巴兰瑞冶看到比利牛斯山犬时非常喜欢,将它们带回了卢浮宫。同时还有许多的封建领主饲养比利牛斯山犬作为守卫犬。从那以后,比利牛斯山犬成了贵族们的宠物犬,每个贵族都想拥有一头这样的犬。于是,比利牛斯山犬变得非常出名。甚至法王路易十四还把它们作为官方御用狗,担任卢浮宫的守卫工作。
法国大革命后,比利牛斯山犬在法国便不被重视,并逐步受到冷落。后来随着比利牛斯山的比利牛斯山犬的数量的减少,这个品种一度濒临灭绝。由于一些运动员的努力和农夫们在冬季的农场中需要比利牛斯山犬,这种犬的数量才得以保持。
1930年,比利牛斯山犬跨越大西洋达到美国。1933年,美国养犬俱乐部承认这种犬。从1933年起,比利牛斯山犬无论作为工作犬还是宠物犬,越来越受到人们的喜爱而广泛流行。