O jardim foi criado pelo Príncipe-Regente D. João em 13 de junho de 1808, ele recebeu o nome de o Jardim de Aclimação e tinha como finalidade aclimar as plantas de especiarias provenientes das Índias orientais: noz-moscada, canela e pimenta-do-reino. E no mesmo ano ele recebeu um novo nome, Real Horto, pois sua direção foi entregue ao marquês de Sabará, diretor da fabrica de pólvora, que também entendia de botânica, sendo depois substituído pelo Tenente General Carlos Napion. Em 1808 o alemão Kaucke transformou o Jardim em uma estação experimental, e já havia mudas de cânfora, nogueira, jaqueira, cravo-da-índia eoutras plantas do Oriente.
Com a independência do Brasil, o Rela Horto foi aberto à visitaçã ao público em 1822 com o nome de Real Jardim Botânico. Com o novo diretor Frei Leandro do Sacramento, professor de botânica conhecido pelos seus estudos da flora brasileira, o Jardim adquiriu foros de botânico, melhoramento e catálogo de plantas ali cultivadas. Em sua homenagem, uma das dependências do Jardim tem o seu busto e o belo lago que leva o seu nome.
Em 1890 com a Proclamação da República o Jardim foi denominado como Jardim Botânico e desde então teve muitos visitantes ilustres como a rainha Elizabeth II da Inglaterra e muitos outros. O Jardim transformou-se em cartão-postal da cidade. O Jardim encontra-se tombado pelo Instituto do patrimônio Histórico e Artístico Nacional desde 1937.
Em 1991, a UNESCO considerou como reserva da Biosfera. Nesse momento, quando o jardim passava por dificuldades de manutenção e conservação, um grupo de empresas ( públicas e privadas) se formou para auxiliá-lo. Com resultado das parcerias, em 1992 o orquidário e a estufa de violetas foram renovados, além de procedida uma limpeza no lago. Em 1995, foi construído o Jardim Sensorial, com plantas aromáticas e placas indicadoras em Braille.No Início do século XXI, o muro do Jardim na Rua Pacheco Leão foi demolido, dando lugar a uma grade, melhorado a sua integração paisagística no bairro. Reconhecimento pela sua importância científica em 1998 o jardim foi rebatizado como Instituto de Pesquisas Jardim Botânico, ficando afeto ao Ministério do Meio Ambiente e finalmente em 2002 tornou-se uma autarquia.