Phil começou a tocar guitarra aos 10 anos, inspirado por guitarristas como Jimi Hendrix, Tony Iommi, Jimmy Page, Jan Akkerman, Michael Schenker e Todd Rundgren. Aos 12 anos, Phil pegou um autógrafo de Lemmy em um show do Hawkwind. Quando tinha 13 anos tocava como semi-profissional em uma banda de cabaré chamada Contrast.
Em 1984, seguindo a saída de Brian Robertson da banda, Lemmy fez audições para um novo guitarrista, eliminou todos os candidatos menos Michael "Wurzel" Burston e Phil Campbell. Lemmy havia planejado contratar somente um guitarrista, mas ao ouvir os dois tocarem juntos, contratou ambos. Desde então, a banda trocou de formação inúmeras vezes, chegando inclusive a acontecer uma saída de Phil da banda, que retornou pouco tempo depois e continuou na formação até hoje.