Band of Horses powstało w 2004 roku w Seattle z inicjatywy multiinstrumentalistów - Bena Bridwella (gitara, wokal) i Matthew Brooke'a (gitara) na gruzach zespołu Carissa's Wired.
Zespół brawurowo wystąpił na imprezach Iron&Wine i The Late Show oraz znalazł się wśród dziesięciu finalistów Shortlist Music Prize, co zwróciło na nich uwagę wytwórni Sub Pop.
Debiutancki album Band of Horses „Everything All The Time” z marca 2006 roku spełnił oczekiwania wydawców, pokładane we wcześniejszych obserwacjach ich podczas koncertów oraz ich demówkach. Debiutancki krążek otrzymał bardzo dobre recenzje w prasie (Spin, Entertainment Weekly, NY Times, Pitchfork, Magnet, NME, Uncut itp.). Niezły poczatek!
Z wielu powodów, Cease to Begin to świetny tytuł dla nowej płyty. Choćby dlatego, że wiele zmieniło się w składzie grupy. Odszedł Mat Brooke, z Seattle wyprowadzili się również Bridwell, Rob Hampton i Creighton Barrett. Zespół przy nowym krążku pracował z producentem Philem Ek, podobnie jak przy Everything All the Time, natomiast ten wprowadził dużo zmian w brzmieniu zespołu. Jest ono mniej eliptyczne, a bardziej prostolinijne, z bardziej wyrafinowanymi aranżacjami. To prawdziwy taniec duszy, płynący z serca i wprowadzający nas w stan błogości. Pikanterii dodaje wokalista, który lawirując głosem próbuje przedstawić nam istotę ludzkiego ducha: jego moc i jego słabość.