Eddie Van Halen e Alex Van Halen, filhos de músicos nascidos na Holanda, mudaram-se para a Califórnia ainda crianças, em 1967. Em meio a uma família de músicos profissionais (seus pais tocavam em festas de casamentos) desde cedo tomaram aulas de piano clássico. Logo porém Eddie e Alex passariam a tocar bateria e guitarra. Em 1974, com o vocalista David Lee Roth e o baixista Michael Anthony (que havia cantado em uma banda chamada Redball Jet) montaram a banda Mammoth (cujo nome mudaria para Van Halen ao descobrirem que já havia uma outra banda chamada Mammoth). 

Com um repertório que misturava covers de pop-rock, hard-rock e algumas composições próprias se tornaram rapidamente a banda mais popular do circuito de clubes de Los Angeles. 

Apesar das performances de palco explosivas do vocalista David Lee Roth o destaque da banda era outro. Eddie Van Halen começou a se destacar sobre os outros companheiros com sua técnica própria de tocar a guitarra ferindo as notas no braço martelando as cordas com ambas as mãos e criando técnicas que ficariam conhecidas posteriormente como tapping, hammer-ons e pull-offs. A velocidade e precisão de Van Halen eram algo inédito até então. Eddie Van Halen se tornaria em pouco tempo um dos mais influentes guitarristas modernos. 

Tendo chamado a atenção de Gene Simons (baixista do Kiss) a banda conseguiu um contrato com a gravadora Warner, lançando o seu primeiro álbum, auto-intitulado, em 1977. O álbum chegaria a platina. Os álbuns que se seguiram apenas confirmaram a popularidade crescente da banda. 

O álbum chamado "1984" seria o divisor de águas na carreira do Van Halen, que passa ao status de uma das maiores do mundo. A música "Jump" tornou-se seu primeiro hit a chegar ao número 1. Dentro da banda, porém havia tensão crescente com Roth não se conformando em ser apenas um coadjuvante na banda do guitarrista Eddie Van Halen. Com Dave se dedicando demais a um disco solo, "Crazy from the Heat" (que trouxe o hit "Just A Gigolo") e deixando em segundo plano as gravações do Van halen, terminou sendo demitido. Para seu lugar foi chamado Sammy Hagar (que havia cantado na banda Montrose e seguido posteriormente uma bem sucedida carreira solo). 

O álbum "5150" de 1986 foi o primeiro com o novo vocalista, chegando novamente ao número 1 das paradas americanas, sucesso repetido por "OU812" de 1988, "For Unlawful Carnal Knowledge" de 1991 e "Balance" de 1995. Em 1993 foi lançado o primeiro álbum ao vivo, o excelente "Live: Right Here, Right Now". 

Em 1995 começaram a haver atritos entre Eddie e Hagar, situação piorada pelos problemas de Hagar com álcool e pelo fato de Eddie se reunir a David Lee Roth para algumas composições. Com a demisão de Sammy Hagar foi anunciada a tão esperada reunião do Van Halen com David Lee Roth e duas novas canções foram gravadas para o disco "Best of Van Halen Vol 1". Infelizmente a reunião não passaria destas duas músicas, e Gary Cherone, ex-Extreme, foi anunciado como o novo vocalista do Van Halen. 

Com o novo vocalista, lançaram em 1998 "Van Halen III", que não agradou crítica nem público, fato que com certeza contribuiu para a demissão de Cherone. 

Em 2001 uma possível nova volta de Roth à banda foi adiada após declarações de que Eddie Van Halen estava com câncer na garganta. Apesar da gravidade da doença, o guitarrista se recuperou bem. A volta de Roth, porém, não se concretizou.

Apenas em 2004 a banda voltou à ativa para uma tour com Sammy Hagar nos vocais, reunião novamente prejudicada pelos problemas com álcool (desta vez do guitarrista) e brigas entre Sammy e Eddie que persistiam. O futuro da banda, ao fim da tour, era uma incógnita.