Акустическая рок-группа Vertical Horizon была основана в 1990 году студентами Джорджтаунского Университета Метью Сканнеллом и Кейт Кейн; после выпуска в 1991 году дуэт переехал в Бостон и в 1992 году выпустил свой дебютный альбом «There and Back Again». «There and Back Again» был записан в старой средней школе Метью всего за несколько дней; Метью и Кэйт вместе играли на всех инструментах, хотя обычно они играли на акустической гитаре. Оба также пели и каждый внес свой вклад в написание песен.

Мэтт и Кэйт были в турне несколько лет после этого, чаще всего выступая с похожими группами, такими как Jackopierce. К 1995 году они были готовы записываться снова. В получившемся альбоме, «Running on Ice», Мэтт и Кэйт играли на акустической гитаре и пели, вместе с музыкантами, приглашенными играть на других инструментах. Среди этих музыкантов были члены Jackopierce, а также Картер Бьюфорд из «Dave Matthews Band», играющий на барабанах.

Затем последовали еще несколько гастрольных туров, и вскоре к Мэтт и Кэйт присоединился Эд Тоф, играющий на барабанах. В 1997 году вышел в свет альбом «Live Stages» с концертными записями. Он прославил Мэтта, Кэйт и Эдда, так же, как и Райана Фишера, играющего на бас – гитаре. «Live Stages» обозначил уход от оригинальной акустической гитарной музыки и переход к тяжелой выразительности электрической гитары. Также к этому времени команда была намерена найти записывающую компанию; члены команды сказали, что первый трек с альбома «Live Stages» начался с одобрительных возгласов большой аудитории. Их мечты стали реальностью, и команда подписала контракт с RCA Records.