Carrol groeide op in een religieuze familie in North Carolina, Zijn vader was een predikant die de populaire muziek als een duivelse oproep zag, zodoende werd er verboden om muziek te luisteren binnen het gezin. Het was zelfs zo ernstig dat zijn vader hem een pak slaag gaf toen hij op een dag een single vond van “Achy Breaky Heart” van Billy Ray Cyrus in de kamer van Michael.

In 2004 won Carroll de locale talenten jacht wat werd aangemoedigd door zijn moeder, in diezelfde periode had Michael het nummer af die hij geschreven heeft “Alyssa Lies”.
Michael verteld dat hij last had van migraine elke keer als hij op het podium de song ter gehore bracht, dit duurde zeker anderhalf jaar lang.
Hij is ontdekt door Rusty Harmon, de zelfde manager die ook Hootie & the Blowfish produceert. Rondt de zomer van 2005 was Carroll een bekende in Nashville’s music row (een plaats waar allemaal muzikanten samen komen). Later tekende hij bij Monterey Peninsula Artists Nashville en kwam zo aan een contract met Arista Records

Carroll zijn debuut album Waitin’ in the Country, geproduceerd door Don Gehman (Pat Green, John Mellencamp, Hootie, REM) werd 6 February 2007 uitgebracht. Het album kwam de eerste week binnen op de hoogste plaats #1 in de Billboard Top Country Albums Charts.

In de eerste week werden er al 57,608, verkocht en een Billboard 200 pop notering op de 8ste plaats, Carroll had de beste verkoop cijfers en debuut notering van een new country artiest since Billy Ray Cyrus in 1992.

Op zaterdag 24 februari 2007 maakte Michael zijn eerste TV debuut in het programma Grand Ol Opry, hij bracht “Alyssa Lies” en “Living Our Love Song” ter gehore.

Jason Michael Carroll heeft vier kinderen, Gavin Michael, Savanna Nicole, Stori Paige, and J.W.