Ainda adolescente trabalhou no jornal interno de uma companhia telefônica da prefeitura e na Rádio Clube de Ribeirão Preto. Aos 18 anos, conseguiu um estágio como repórter na recém-inaugurada TV Ribeirão Preto, afiliada da TV Globo.

Em 1981 Heraldo Pereira foi transferido para a TV Campinas e começou a estudar jornalismo na Pontifícia Universidade Católica (PUC Campinas), onde se formou. Em 1985, foi para a redação da filial da Rede Globo em São Paulo. Depois de um período como repórter dos telejornais locais, passou a fazer matérias para o Jornal Nacional. Em 1987, transferiu-se para a sucursal da emissora em Brasília. Desde então, acompanha o dia a dia da política nacional.

O jornalista participou de coberturas importantes como a promulgação da Constituinte de 1988, as eleições presidenciais de 1989 e a decretação do Plano Collor. Em setembro de 1991, fez uma reportagem na África do Sul sobre os acordos entre o governo local e os grupos negros para acabar com o apartheid no país. A matéria foi exibida no programa Fantástico. Nesse período, o repórter também acompanhou uma visita do presidente Fernando Collor de Mello a países como Namíbia e Angola. Logo depois, cobriu o processo de impeachment de Collor e acompanhou diversas eleições, como as de 1994, 1998, 2002 e 2006. Foi o mediador de alguns debates entre os candidatos a governador de estados como o Acre e a Paraíba.

Em 2001 Heraldo Pereira estreou como apresentador na bancada do DFTV e do Bom dia DF. No ano seguinte, tornou-se o primeiro jornalista negro a apresentar permanentemente o Jornal Nacional. Desde então, apresenta o telejornal eventualmente. Nessa época, também apresentava um bloco com o noticiário político no Bom dia Brasil e no Jornal das Dez da GloboNews. Em 2007, passou a ser comentarista político do Jornal da Globo.

Heraldo Pereira entregando o Prêmio Congresso em Foco de Melhor deputado federal
Desde 1988, Heraldo Pereira é casado com a também jornalista Cecília Maia.

Em 22 de dezembro de 2017 foi oficializado como apresentador titular do Jornal das Dez, na GloboNews.

Prêmios:
Prêmio Camélia da Liberdade (2008)[4]
Troféu Raça Negra (2011)