Rudy Valle comenzó su carrera como saxofonista y cantante y luego se convirtió en conductor de orquestas. En 1920 y principio de 1930 tenía su propio programa de radio Fleismann Hour, y fue muy popular en clubes nocturnos y en discos. Tuvo mas excito que en su carrera actoral. Ayudó a muchos cantantes como Alice Faye, quien fue durante un tiempo cantante de su banda, y ayudo al lanzamiento de la carrera de Frances Langford. Su comienzo en las películas fue como galán aunque después se transformo en un espectacular cómico. También actuó en Brodway  en donde su mayor exito fue HOW TO SUCCEES IN BUSINESS WITHOUT TRYING, que luego se llevó a la pantalla con el como protagonista.