Em meados do ano de 1968 o rock passava por um período de mudanças fundamentais... o descompromisso do início dos anos 60 passava a dar espaço a músicas e letras mais elaboradas, representados entre outros pela banda Yardbirds, de Eric Clapton e Jeff Beck. Nesta época James Patrick Page era um guitarrista de sessão que já havia gravado com os Rolling Stones, The Who, Pretty Things, entre outros e foi chamado para substituir Eric Clapton quando este abandonou o Yardbirds (Eric Clapton viria mais tarde a formar o Cream). Foi a primeira vez que Page participou de uma banda de renome... mas o que viria depois iria ser muito mais importante...
No final de 1968 a banda Yardbirds se desfaz e Page trata de montar um novo grupo. Um amigo o leva a procurar Robert Plant, vocalista da pequena Band of Joy. Da Band of Joy vem também o baterista, John Bonham. Juntamente com Chris Deja. A banda resolve se chamar New Yardbirds. O baixista Chris Deja não se encaixa ao som da banda e é logo substituido por John Paul Jones, também músico de sessão, que já havia gravado entre outros com os Rolling Stones. Jones chegou ao New Yardbirds através de um anúncio em uma revista de música.
Obviamente o nome New Yardbirds não agradava. O baterista do the Who, Keith Moon, achou que a banda de Page era pesada e voava, e sugeriu o nome Lead Zeppelin (Zepelin de Chumbo). Mais tarde o nome foi mudado para Led Zeppelin a fim de que os norte-americanos não tivessem problemas com a pronúncia.
No início de 1969 a banda grava seu primeiro disco, auto entitulado Led Zeppelin. O som era bastante original... com raízes óbvias no blues, mas pesado de uma maneira geral. Agradou ao público, embora a crítica inglesa os tenha criticado muito. O destaque era a música Dazed and Confused, em que Page solava a sua guitarra com um arco de violino. Uma turnê americana se seguiu ao disco. Seria a prova de fogo para a banda. Começaram a turnê abrindo para bandas maiores e terminaram como atração principal dos shows.
O primeiro disco já havia levado a banda ao topo das paradas em todo o mundo, apesar de não terem sido lançados singles (isso revolucionaria o mercado musical dali para a frente, pois se passou a considerar mais importante cada disco como um todo ao invés de lançar as músicas separadamente em singles). Sem interromper as turnês a banda gravou ainda em 1969 o segundo álbum. Led Zeppelin II foi um sucesso de vendas ainda maior. Whole Lotta Love se tornou o primeiro grande hit da banda. Apesar de ser uma banda inglesa, só com o segundo disco a banda foi aceita na sua terra natal e desbancou os Beatles no gosto da crítica.
Em 1970 a banda tirou "férias" dos shows e se encerrou em uma cabana na escócia para gravar e compor o álbum mais acústico do Led Zeppelin. O nome da cabana era Bron-Y-Aur, que viria se tornar uma das músicas do disco. O disco Led Zeppelin III deixava claras as raízes da banda no blues e na música folclórica celta. O disco foi sem sombra de dúvidas diferente, mostrando muita musicalidade da banda, mas sem a emoção forte que era a sua característica. Foi um fracasso de vendas. Os shows da banda haviam se tornado verdadeiras demonstrações de resistência. Os improvisos que se seguiam a Dazed and Confused chegavam a durar mais de 45 minutos.
Em 1971 sairia o divisor de águas da carreira do Led Zeppelin, o album sem título, comumente chamado de Led Zeppelin IV. Entre outras músicas se destacou Stairway to Heaven, o rock mais executado e conhecido de todos os tempos (apesar de não ter sido lançado em single). Stairway to Heaven era uma mistura única de música acústica e rock pesado. A música Rock and Roll passou a ser a abertura dos shows da banda. O sucesso deste álbum foi tão grande que mentes doentes chegaram cogitar um pacto satânico da banda que haveria vendido suas almas em troca da fama.
Em 1973 o álbum Houses of The Holy decepcionou aos que esperavam outras músicas como Stairway to Heaven. Era um álbum mais denso e difícil de ser ouvido. A banda neste disco adotou influências de soul e reggae como pode ser facilmente observado na faixa Dyer Maker. Parte do público detestou. A música The Song Remains the Same viria a ser o título do vídeo sobre a banda. De uma forma ou de outra o Led Zeppelin continuava lotando estádios ao redor do mundo e vendendo discos como nenhuma outra banda de rock na época.
Em 1975 sai o álbum duplo Physical Graffiti, um album disperso e extenso demais. A única faixa a adicionar algo a sonoridade do Led Zeppelin foi Kashmir, que se tornaria uma das marcas registradas da banda. Logo após o lançamento de Physical Graffiti um acidente de carro com Robert Plant levou a banda a férias forçadas durante mais de um ano, em meio a boatos de dissolução.
O álbum Presence, lançado em 1976 é um reflexo da fase ruim por que passava o Led Zeppelin. Nenhuma música se destacava. O cenário do rock mudava com o punk e o Led Zeppelin não conseguia mostrar criatividade. No meio da turnê que se segue, um novo acidente, a morte do filho de Plant, leva a banda a parar novamente. Neste intervalo foi lançado o vídeo The Song Remains the Same (no Brasil com o título ridículo de Rock é Rock Mesmo).
Em 1978 o álbum In Through the Out Door marcou a volta da banda aos estúdios e também aos palcos. Apesar da falta de novidades a banda continuava a maior do mundo. Após uma reunião de planejamento da turnê americana, o baterista John Bonham morre sozinho em seu quarto em virtude de uma overdose de alcóol. A decisão de acabar com a banda foi aceita por todos os membros restantes
