Nasceu num sobrado com sacadas de ferro, à Rua Maciel de Baixo, 17, Distrito da Sé em 1922. De pais pobres, foi o primeiro dos seis filhos. Formou-se em Odontologia, área que abandonou para dedicar-se à pintura em 1948. Em 1957 transferiu-se para o Rio de Janeiro. Em 1962 conquistou o Prêmio de Viagem à Europa no Salão Nacional de Arte Moderna e Pequena Medalha de Ouro no Salão Paulista de Arte Moderna. Viaja para a Europa: Inglaterra, França, Holanda, Bélgica, Alemanha, Áustria, Espanha, Portugal e Itália.

Residiu em Roma de 1964 a 1966, quando voltou para o Brasil. Participou da Bienal de Veneza e diversas vezes da Bienal de São Paulo (de 1955 a 1998, Prêmio de Aquisição em 1967 e 1973, Sala Especial em 1998). Em 1994, o Centro Cultural Banco do Brasil, no Rio de Janeiro, montou uma grande retrospectiva de sua obra. Em longo texto que escreveu para o catálogo/livro dessa exposição, Frederico Morais aponta com lucidez o caráter inovador da obra de Rubem Valentim. Recentemente, sua obra foi objeto de salas especiais (1996, Bienal de São Paulo; 1998, Parque de Esculturas do Museu de Arte Moderna da Bahia) e de duas novas retrospectivas: Pinacoteca do Estado de São Paulo (2001) e Museu Nacional de Belas Artes, Rio de Janeiro (2002). Faleceu no dia 30 de novembro de 1991 em São Paulo SP.