Auch wenn es schon frühere Ansätze gegeben hat, Fahrräder geländetauglicher zu machen, wird heute allgemein das Jahr 1973 als die Geburtsstunde und der Mount Tamalpais in Kalifornien als der Geburtsort des Mountainbikes angesehen. Die ersten Mountainbikes waren Fahrräder des Typs "Schwinn Cruiser", welche von einer Gruppe von Radsportlern um Gary Fisher, Joe Breeze und Charles Kelly benutzt wurde, um die Schotterpisten am Mount Tamalpais herunter zu rasen. Die aus den 1930er Jahren stammenden Cruiser des Herstellers Schwinn waren - wie der Name schon vermuten lässt - alles andere als Sport-Fahrräder, sondern vielmehr für das gemütliche Dahinrollen ("Cruisen") ausgelegt. Die Schwinn Cruiser waren aber recht stabil gebaut und verfügten über dicke Ballonreifen auf 26-Zoll-Felgen, womit sie für die schnelle Abfahrten über die Schotterposten des Mount Tamalpais weit besser geeignet waren, als die leichten Rennräder, welche damals die einzige Typ von Fahrrädern für sportliche Zwecke waren. Die Schwinn Cruiser waren sehr schwere Fahrräder, weshalb sie von Gary Fisher, Joe Breeze und den anderen Fahrern auch tatsächlich nur für die Abfahrten benutzt wurden. Der Transport zum Gipfel erfolgte auf der Ladefläche eines Pick-Ups. Die ersten Mountainbiker waren somit reine "Downhiller".
Erste regelmäßige Mountainbike-Rennen gab es ab 1976 - sie wurden ebenfalls von der oben erwähnten Gruppe am Mount Tamalpais ausgerichtet (vornehmlich auf Initiative von Charles Kelly) und ausgetragen. Diese "Repack-Races" genannten Rennen gaben auch den Anstoß für eine ganze Reihe von technischen Modifikationen, welche den Anfang der Entwicklung zur heutigen Mountainbike-Technik darstellen. So wurden die unzureichenden Rücktrittbremsen der Schwinn Cruiser durch Trommelbremsen ersetzt, wobei auf Motorradteile zurückgegriffen wurde. Auch beim Austausch der wenig stabilen Original-Lenker bedienten sich die Bastler meist im Motorradteile-Regal. Gary Fisher wird die erste Verwendung einer Schaltung an diesen Ur-Mountainbikes zugeschrieben (die Schwinn Cruiser verfügten über keine Schaltung).
Das erste "echte" Mountainbike hat Joe Breeze 1977 für Charles Kelly hergestellt. Auch wenn sich Breeze dabei hinsichtlich der Rahmengeometrie stark an den Cruisern orientiert hat, war es das erste Mountainbike, welches nicht ein nachträglich für den Einsatz als Mountainbike umgerüsteter Cruiser war, sondern von Beginn an als Mountainbike hergestellt wurde.
Zwei Jahre später stieß Tom Ritchey zu der Gruppe und fertigte zunächst einen Rahmen und später noch weitere Rahmen für Gary Fisher. Später übernahmen Gary Fisher und Joe Breeze den Aufbau der von Tom Ritchey gefertigten Rahmen zu vollständigen Mountainbikes sowie den Vertrieb dieser Räder. Mit dem Auftritt Tom Ritchey nahm 1979 also die Mountainbike-Industrie ihren noch bescheidenen Anfang. Zu den ersten Firmen im noch jungen Markt gehörten (neben Ritchey) auch Shimano (Komponenten) und Specialized (Kompletträder). In den folgenden Jahren wurde das Mountainbike immer populärer und auch die technische Entwicklung ging rasant weiter.
Erster offizieller Mountainbike Weltmeister wurde der Amerikaner Ned Overend bei den Meisterschaften in Durango, Colorado im Jahr 1990.
Bei den olympischen Spielen 1996 in Atlanta wurde Mountainbiking (Crosscountry) erstmals als olympische Disziplin ausgetragen.