Музыканты исполняют нинтендокор - определение, придуманное фронтменом группы Натаном Уиннеком. В собственном творчестве Horse The Band соединяют электронную восьмибитную музыку и пост-хардкор. Время от времени они даже исполняют свою музыку в акустике.

Для воссоздания звуков восьмибитных игровых приставок клавишник Эрик Эрнстром употребляет синтезатор Korg MS2000.

Примечательно, что во время 1-го из туров в 2006 году опосля концерта в Чикаго коллектив отказался продолжить выступать, чтоб начать работу над EP Pizza. Музыканты объяснили это тем, что в Чикаго делают самую топовую пиццу.

1-ая демо-запись Horse The Band вышла в 1999 году. В 2002 году они организовали собственное турне по 7 странам. Всего на счету группы 5 студийных альбомов. Крайний из их под заглавием Desperate Living вышел в 2009 году.