Inicialmente, no local da atual escola, funcionou a Escola Delfim Moreira, em imóvel comprado pela Prefeitura do Distrito Federal em 1921. Com o nome de Escola Argentina, o prédio atual foi inaugurado em 1929, durante a administração do Prefeito Antônio da Silva Prado Júnior (1926/1930). A partir de 1934, a escola passou a ter o nome de Sarmiento, em homenagem ao grande educador e ex-presidente da Argentina.

Na fachada do prédio, destacam-se dois painéis de azulejos pintados à mão: um retratando o mapa do Brasil, e, o outro, o mapa do Rio de Janeiro.