Deze prachtige hoektanden worden beschouwd als een van de oudste hondenrassen van Zwitserland, ongeveer 2000 jaar geleden ontdekt. Hoewel de geschiedenis van de Greater Swiss Mountain Dog niet zeker bekend is en meer dan een paar theorieën heeft over hoe ze zijn ontstaan, is de meest populaire dat ze afstammen van grote honden die vergelijkbaar waren met de Mastiff. Aangenomen wordt dat Roman Legions deze honden naar de Alpen heeft gebracht. Deze honden werden, net als hun voorouders, gebruikt voor hoeden, bewaken en als trekhonden. Op een gegeven moment waren ze een van de meest populaire keuzes voor boerderijhonden in Zwitserland, maar hun aantal begon langzaam te verminderen in de jaren 1900 toen hun baan werd vervangen door andere hondenrassen of machines. Albert Heim, die hondenonderzoeker was, vond twee honden van dit ras in een jubileum van de Swiss Kennel Club. Aanvankelijk beschreef hij deze honden als een kortharige versie van de Berner Sennenhond, maar werkte vervolgens om ze erkend te krijgen als hun eigen ras. Hij slaagde in 1990 toen de Greater Swiss Mountain Dog werd opgenomen in het Swiss Stud-boek van de Swiss Kennel Club. Deze honden zijn vervolgens langzaam maar altijd in een constant tempo in aantal en populariteit gegroeid. Ze werden voor het eerst naar de Verenigde Staten gebracht in 1968, wat al snel leidde tot de oprichting van de Greater Swiss Mountain Dog Club of America. Tegenwoordig zijn hun talenten onder meer bewaken, volgen, waakhonden zijn, competitieve gehoorzaamheid en karten.