Die Karriere von Sheff und seinem Bandprojekt begann dabei mitten in seiner Heimatstadt Austin: Bei dem inzwischen zur texanischen Tradition gewordenen South by Southwest Festival (SXSW) wurden Okkervil River im Jahr 2000 entdeckt und veröffentlichten in der Folge 2002 ihr Debütalbum „Don’t Fall In Love With Everyone You See“.
Trotz häufiger Personalwechsel an den Instrumenten arbeiteten Okkervil River kontinuierlich für ihren Erfolg und tourten unter anderem mit den Indie-Folk-Spezialisten von The Decemberist. Im Jahr 2010 wurde der Gruppe schließlich eine ganz besondere Ehre zu Teil als Okkervil River für niemand geringerem als Rock-Legende Roky Erickson den Backing-Sound spielen durfte.