O acervo do Arquivo Geral da Cidade do Rio de Janeiro remonta à época da refundação da cidade, em 1567, quando Mem de Sá transferiu a cidade do morro Cara de Cão - onde fora instalada por Estácio de Sá -, para o novo sítio situado no morro do Castelo. Além da fortaleza, para garantir a segurança da cidade, Mem de Sá mandou erguer o prédio da Cadeia e da Câmara Municipal, e separar uma grande arca para guardar os documentos que fossem produzidos dali em diante. Até a Proclamação da República, os documentos originários do exercício da administração da cidade foram recolhidos ao arquivo da Câmara.. Após a instalação do novo regime, com a criação da Prefeitura, os documentos produzidos pelo novo ente municipal juntaram-se aos custodiados pela Câmara Municipal.
Com o passar dos anos, arquivos particulares de interesse público foram anexados ao acervo, assim como novas mídias foram a ele incorporadas. Deste modo, um amplo conjunto documental, que versa sobre a cidade do Rio de Janeiro, com mais de 4 séculos de existência, encontra-se à disposição do pesquisador e do cidadão. Segue o resumo do acervo, de acordo com os setores que custodiam as diferentes espécies documentais, de maneira a facilitar a consulta na instituição ou nas séries documentais já digitalizadas e que estão disponíveis on-line, neste site.