Em 1934, o próprio André gravou, em dupla com Aurora Miranda, então com apenas 19 anos, o que se tornaria seu maior sucesso. Cidade maravilhosa foi inscrita no ano seguinte no concurso de carnaval da Prefeitura do Rio de Janeiro, obtendo o segundo lugar. Com a criação do Estado da Guanabara, Cidade maravilhosa foi oficializada como “marcha oficial da cidade do Rio de Janeiro”, por meio da Lei n. 5, de 5 de maio de 1960. Ao receber a notícia no dia 3 de junho, por um repórter do Diário da Noite, o autor da música encontrava-se internado no Hospital da Ordem do Carmo.

O Rio esteve perto de perder seu hino em fins de 1967, quando o deputado Frederico Trotta apresentou um projeto de lei sugerindo à Assembleia Legislativa a criação de um concurso para a escolha de um novo, em substituição a Cidade maravilhosa. Para justificar seu projeto, argumentava que a marcha tinha “música alegre, balanceante, carnavalesca e irreverente para o ritual das solenidades sérias e imponentes, às quais se torna forçoso o comparecimento de autoridades dos três poderes constituídos, bem como de personalidades estrangeiras”.

O povo carioca protestou. Durante os primeiros meses de 1968, diversos articulistas escreveram nos jornais a favor da marchinha. Artistas como Aracy de Almeida, Fernando Lobo e Grande Otelo vieram a público manifestar sua indignação. Finalmente, em agosto daquele ano, o presidente da Assembleia voltou atrás e sancionou a lei que restituía Cidade maravilhosa à condição de hino oficial da cidade.

Um mês depois, André Filho quebrou o silêncio. No dia 25 de setembro, concedeu entrevista ao Museu da Imagem e do Som. Falando sobre sua vida, contou que era autor de marchas que homenageavam outras duas cidades: Cambuquira (Cidade morena, seu hino oficial) e Buenos Aires (Ciudad en sueño). Revelou que, por amor ao Rio, recusara-se a fazer uma marcha para Brasília.

O compositor morreu no dia 2 de julho de 1974, aos 68 anos, no Rio de Janeiro.