Ghost of Tom Joad gründeten sich am 16. Februar 2006. Der Bandname stammt vom Song The Ghost of Tom Joad von Bruce Springsteen, der auch von Junip gecovert wurde. Ihre Debüt-EP Is This What You Call A Fronterlebnis? wurde auf den Konzerten und über die Homepage verkauft. Am 8. Februar 2008 erschien das Debütalbum No Sleep Until Ostkreuz. Am 6. Februar 2009 folgte das zweite Album Matterhorn, welches im Vergleich zum Vorgänger eher düster gehalten ist.

Schon im Oktober des Gründungsjahres spielten sie als Vorband von The Lost Patrol Band und Madsen. Des Weiteren spielten sie mit Maxïmo Park, Coheed and Cambria, Kettcar, Tomte, Samiam, Mando Diao, State Radio und tourten mit Muff Potter, deren Gitarrist Dennis Scheider das Management und die Produktion von Ghost of Tom Joad übernahm.

Am 13. Januar 2012 gab die Band über ihr Label Richard Mohlmann Records und via Facebook mit einem YouTube-Video die Auflösung nach drei Abschiedskonzerten im April 2012 bekannt.