Nascido de pais coreanos, John Myung cresceu em Long Island, Nova York. Tocava violino aos 5 anos de idade, até ser chamado para tocar baixo em uma banda local quando tinha 15 anos. Permaneceu com o baixo daí pra frente, e depois de se formar no Ensino Médio, ele se matriculou na Berklee College of Music juntamente com o seu amigo John Petrucci, onde encontraram Mike Portnoy (bateria). Esses três formaram a banda Majesty junto com o tecladista Kevin Moore e o vocalista Chris Collins. Mais tarde a banda ia se tornar o Dream Theater.

Apesar do Dream Theater ser seu principal foco musical, ele apareceu em vários outros projetos em sua carreira. Sua primeira aventura desta foi com a banda pop progressiva Platypus, com Rod Morgenstein, Ty Tabor e o ex-membro do Dream Theater Derek Sherinian. Ele também participa do Jelly Jam, que consiste dos mesmos integrantes do Platypus, mas sem Sherinian.
Suas maiores influências são Tony Levin, Chris Squire, Steve Harris, Geddy Lee e Cliff Burton, e suas respectivas bandas, King Crimson / Peter Gabriel, Yes, Iron Maiden, Rush e Metallica.

Myung de alguma maneira se tornou o membro mais misterioso do Dream Theater, porque raramente ele fala ou chama atenção para si mesmo nos shows ou vídeos. Sua personalidade misteriosa foi enfatizada quando em um show na Alemanha, ele veio até James LaBrie e o derrubou usando o estilo futebol americano, causando muita confusão na platéia e nos membros da banda, um movimento que ficou conhecido como "Myung Tackle". Mais tarde foi revelado no Lifting Shadows (uma biografia do Dream Theater) que John Myung foi desafiado a derrubar James LaBrie no palco "por uns cem dólares, e ninguém acreditou que ele tivesse coragem".

Myung também é conhecido por sua prática com o instrumento. No DVD Live Scenes From New York, Kevin Shirley e o ex-tecladista Derek Sherinian afirmam que John Myung é o único músico que eles conhecem que continua tocando depois de um show para desaquecer.