Alex e seu irmão Eddie Van Halen formaram uma banda chamada MAMMOTH em Pasadena, Califórnia, em 1972, e a renomearam como VAN HALEN quando o vocalista David Lee Roth se juntou ao grupo e, posteriormente, o baixista Michael Anthony.
O VAN HALEN foi uma das maiores bandas de rock do país nos anos 80, com sucessos como “Runnin ‘With The Devil”, “Dance The Night Away”, “Hot For Teacher”, “Panama” e “Jump”. O grupo, que mais tarde contou com Sammy Hagar nos vocais, foi incluído no Rock And Roll Hall Of Fame em 2007.
A família Van Halen mudou-se para Pasadena depois de emigrar da Holanda para os EUA em 1962.