1985 formierte J. Mascis die Band gemeinsam mit Bassist Lou Barlow und Drummer Murph in Amherst, Massachusetts - aus Resten von Deep Wound, einer der härtesten und jüngsten Hardcore-Combos der USA. Zunächst hießen die Drei noch Dinosaur – ohne den Zusatz "Jr.". Eine gleichnamige Hippie-Combo zwang sie zu der Namensänderung. Mit Alben wie "Green Mind", "Where You Been" oder "Without A Sound" wurden Dinosaur Jr. zu Taktgebern des US-amerikanischen Alternative Rock. Sie beeinflussten maßgeblich Bands wie Sonic Youth oder Nirvana und gelten gemeinsam mit den Pixies zu den Vorreitern dessen, was einige Zeit später als Grunge bezeichnet wurde.
Ein Streit zwischen den Exzentrikern Lou Barlow und J. Mascis war unvermeidbar. Barlow gründete Sebadoh, Mascis machte zunächst alleine als Dinosaur Jr. weiter und löste die Band 1998 ganz auf. 2005 raufte man sich wieder zusammen, und seitdem spielen die drei Herren in der Originalbesetzung zusammen und touren erfolgreich durch die Welt.