O nome da cidade é uma referência ao agricultor Rufino Pereira dos Santos (1834-1905), era agropecuarista na Fazenda do Cedro e de lá vinha para a Serra dos Pereira, sua outra Fazenda, na qual cultivava as terras, distante da gadaria dos campos cedrenses e protegido pelas íngremes fortalezas rochosas das quais despencam deslumbrantes cachoeiras.
Pelo fato de ter sido o primeiro homem nesta região a plantar milho e feijão, arrostando perigos e vencendo as dificuldades do desbravamento, demonstrando muita disposição e coragem ao empreender o início da colonização, trabalho extremamente afanoso e fatigante, honesto e dignificante, merece nosso reconhecimento. Rufino foi encontrado morto na roça em 1905, bem próximo do Salto de Rio Rufino.
Hoje com 2.484 habitantes, Rio Rufino mantém a economia baseada na agricultura familiar, com culturas tradicionais como feijão e milho, e a criação de gado de corte e leite.
