Nomeado Prefeito de Belo Horizonte por Valadares.
Em 1937, os interventores estaduais que permaneceram em suas funções após o golpe de estado que instituiu o Estado Novo passaram a ser denominados Governadores. Permanecendo em seu cargo, Benedito Valadares, em 1940, chama Juscelino a seu gabinete e convida-o para ser Prefeito de Belo Horizonte. Evidentemente que Juscelino ficou surpreso com o convite, uma vez que sempre havia ficado muito claro seu posicionamento contra a ditadura de Vargas. Porém, devido às pressões do Governador e à garantia de que haveria eleições em um curto espaço de tempo, o convite foi aceito.
JK retorna à sua carreira política, definitivamente, no dia 16 de abril de 1940, quando sua nomeação foi publicada no “Minas Gerais”. Em seu novo cargo, desenvolveu trabalhos que marcaram de forma bastante positiva a sua vida política. Enquanto prefeito, JK não deixou de clinicar, contrabalançando, dentro do possível, as duas atividades. Juscelino só veio a abandonar a medicina definitivamente em 1945. Neste período, além de prefeito e médico, JK desempenhou o cargo de 1° Secretário do recém-formado Partido Social Democrata, o PSD. Juscelino foi um prefeito democrático e dinâmico. Desenvolveu trabalhos nas mais diversas áreas.
Suas realizações podem ser agrupadas em 3 pontos: a) obras públicas e embelezamento da cidade; b) incentivo à cultura; c) assistência às classes proletárias. No referente às obras públicas, JK restaurou, pavimentou e construiu dezenas de avenidas. Entre as realizações nesta área, podemos citar: o asfaltamento da Avenida Afonso Pena, importante artéria de Belo Horizonte; a abertura de grandes avenidas radicais com o intuito de facilitar o acesso ao centro da cidade, como a Av. da Pampulha, Av. Tereza Cristina, em continuação à Av. do Contorno, Av. Silviano Brandão e Avenida Pedro II; e o prolongamento da Av. Amazonas.
Ainda em relação às obras públicas, Juscelino realizou obras de canalização das águas que banham a cidade visando o saneamento básico de Belo Horizonte. Construiu pontes e realizou terraplanagens a fim de integrar o centro da cidade a vários núcleos populacionais da zona suburbana, e desenvolveu em Belo Horizonte a rede subterrânea de luz e telefone.
Uma das obras mais importantes no setor de obras públicas foi a construção de uma das grandes inovações no referente à arquitetura Nacional: a Pampulha. Projetada por Oscar Niemeyer (que mais tarde iria projetar os prédios de Brasília), tinha por finalidade básica o turismo. No local foi construído um grande lago artificial e em torno deste, residências e casa de diversões. Para tal, construiu-se uma avenida para que o acesso ao local fosse facilitado. As obras da Pampulha duraram apenas 9 meses. Em tempo recorde haviam sido construídos um local de recreação e um novo ponto turístico para os cidadãos de Belo Horizonte.
Juscelino também muito fez pela cultura da cidade de Belo Horizonte durante a sua administração. Entre as suas realizações, as mais significativas foram a criação do Museu de Belo Horizonte, do Instituto de Belas Artes e do Curso de Extensão Musical.
O início da construção do Teatro Municipal, a oficialização da Orquestra Sinfônica, e ainda, o apoio da Prefeitura a uma série de Instituições. Com isto, JK pretendeu incentivar o surgimento de uma nova geração de jovens ligados às artes. Com relação à assistência às classes proletárias, JK muito fez no plano de Assistência Social. Além do apoio dado às instituições que já existiam em Belo Horizonte, JK estimulou a criação de novas casas e desenvolveu uma rede de organismos de assistência social aos trabalhadores, dando a eles assistência médica, hospitalar e dentária gratuitas, alimentação barata, e outras facilidades a fim de garantir o seu bem estar.
Além de tudo isto, a prefeitura de Belo Horizonte construiu, durante o mandato Kubitschek, o Hospital Municipal no bairro da Lagoinha. A fim de amparar o trabalhador enfermo, o prédio possuía 306 leitos e instalações moderníssimas para a época. Quanto aos indigentes, de acordo com a gravidade da enfermidade, o tratamento hospitalar passou a ser-lhes oferecido através de um convênio altamente bem desenvolvido entre a Prefeitura e a Santa Casa de Misericórdia. JK também desenvolveu um programa de bairros e restaurantes populares para facilitar a vida daqueles que não tinham condições para se manterem.
JK foi um prefeito dinâmico e voltado para todos os campos. Os bons resultados desta dinâmica marcaram seu nome no cenário político Nacional, acabando por incentivar seus colegas de partido (PSD) a lançar a sua candidatura a Deputado Federal em 1945, 1° passo para a governadoria de Minas Gerais em 1950, e para a Presidência da República em 1955.