Az 1950-ben alapított intézet Rényi Alfrédről kapta a nevét, aki 1970-ben bekövetkezett haláláig 20 évig vezette az intézményt. A kutatóintézet 2001-ben elnyerte az Európai Unió Kiválósági Központja címet. Alaptevékenysége kiterjed a matematika és alkalmazásai különböző területein végzett tervszerű kutatásokra, olyan elméleti vizsgálatokra összpontosítva, amelyek egyfelől a matematika belső fejlődése, másrészt a matematikának más tudományokban, illetve a társadalmi gyakorlatban való hatékony alkalmazása szempontjából jelentősek.
Kutatási feladatai között szerepel: alapkutatás a matematikai struktúrák témájában, matematikai analízis és alkalmazásai, alap- és alkalmazott kutatás a sztochasztika témájában, diszkrét matematikai témában, valamint bioinformatikai területeken. Az intézet kutatási, illetve speciális feladata az Országos Matematikai Szakkönyvtár működtetése és fejlesztése.