O Sr. Rupp nasceu em Schongau, Alemanha, em 24 de fevereiro de 1901, e iniciou seus estudos formais na Akademie der Tonkunst em Munique quando tinha 14 anos. Em 1920, fez uma turnê pelos Estados Unidos com o violinista Willy Burmester (1869 – 1933). Tornou-se conhecido na década de 1930 como acompanhante do violinista Fritz Kreisler, com quem gravou as Sonatas para Violino de Beethoven completas em 1935. Essas gravações, foram reeditadas em CD, ainda são consideradas interpretações clássicas.

Quando se estabeleceu na cidade de Nova York, em 1938, já era conhecido como acompanhante e rapidamente se tornou uma parte importante do tecido musical da cidade. Outros instrumentistas com quem trabalhou foram a violoncelista Zara Nelsova (1918 – 2002) e os violinistas Erica Morini (1904 – 1995) e George Kulenkampff (1898 – 1948). Ele continuou trabalhando na década de 1980 e fez suas últimas gravações com Kakaya Urakawa, um violinista japonês. A sua última apresentação pública foi um concerto de peças de Kreisler com a violista Rivka Golani no festival Lockenhaus, na Áustria, em 1985.

A colaboração mais antiga de Rupp, entretanto, foi com Marian Anderson, com quem começou a trabalhar na década de 1940. Ele trabalhou como seu acompanhante regular até que ela se aposentou dos palcos em 1965.

Na década de 1970, lecionou literatura vocal alemã e música de câmara no Curtis Institute, na Filadélfia.

Franz Rupp faleceu na última quarta-feira 27 de maio de 1992, no Hospício Cabrini. Ele tinha 91 anos e morava em Manhattan.

Ele morreu de câncer no esôfago, disse sua esposa, Sylvia.

(Créditos autorais: https://www.nytimes.com/1992/06/03/arts – New York Times/ ARTES/ Arquivos do New York Times/ Por Allan Kozinn – 3 de junho de 1992)