La 17 martie 1867, prin Înaltul Decret nr. 380, a fost înființat Depozitul General al Războiului, ca direcție independentă în cadrul Administrației Centrale a Ministerului de Război. Depozitul General al Războiului era compus din: Secția I Harta României. Lucrări topografice interioare și Secția a II-a Lucrări istorice. Statistica militară și lucrări regimentare.
Ulterior, atribuțiile privind conservarea arhivelor create de unitățile militare, precum și redactarea istoricului acestora, au fost preluate de structuri din cadrul Marelui Stat Major.
La 14 mai 1918, prin Ordinul de zi nr. 151, a fost înființat Biroul Istoric, în cadrul Secției a III-a a Marelui Stat Major, avînd ca misiune „adunarea, clasarea și ordonarea datelor și documentelor istorice operative ale tuturor marilor unități ale armatei” și redactarea „istoricului campaniei 1916-1919”.
După Primul Război Mondial, la 1 aprilie 1920, pe baza aprobării șefului Marelui Stat Major pe Referatul nr. 224 din 28 martie 1920, a fost înființată Secția a VI-a 6 Istoric în cadrul Marelui Stat Major. Prin crearea aceste structuri, evoluția arhivisticii și istoriografiei militare românești a intrat într-o nouă etapă. Atribuțiile acestei structuri (transformată în 1928 în Serviciul Istoric) constau, inițial, în adunarea arhivei structurilor armatei române participante la Al Doilea Război Balcanic și Războiul de Întregire și redactarea unei ample monografii a Războiul de Întregire din 1916-1919 (în perioada 1934-1946 au fost publicate 4 volume din lucrarea România în Războiul Mondial, care acopereau perioada august-noiembrie 1916). Ulterior, a primit ca sarcină și administrarea și controlul întregii arhive a armatei române. În acest scop, instituția era autorizată să emită ordine, dispozițiuni, recomandări și să avizeze proiectele de lege în domeniu. În anul 1933, Serviciul Istoric (denumirea din epocă a Arhivele militare naționale române) a emis primul „Regulament al Arhivelor Armatei” (promulgat prin Decretul Regal nr. 1830 din 20.06.1933).
De-a lungul timpului, structura care administrează patrimoniul arhivistic al Armatei României a purtat mai multe denumiri: Secția a VI-a/a VIII-a/a VII-a Istoric (1 aprilie 1920 - 30 ianuarie 1928), Serviciul Istoric (30 ianuarie 1928 – 18 martie 1949), Secția 11 Istoric (18 martie 1949 - 1 august 1950), Secția Istoric (1 august 1950 - 1 aprilie 1959); Secția Istorie și Geografie Militară (1 aprilie 1959 - 16 mai 1962); Secția Studii Istorice (16 mai 1962 - 11 octombrie 1969), Secția Arhivelor Militare (11 octombrie 1969 - 1 aprilie 1973); Arhivele Ministerului Apărării Naționale (1 aprilie 1973 - 25 ianuarie 1984), Secția Arhive (24 ianuarie 1984 - 1 martie 1998), Arhivele Militare Române (1 martie 1998 - 1 decembrie 2000), Serviciul Arhivistic Militar (1 decembrie 2000 - 1 aprilie 2002), Serviciul Arhive și Documentare Militară (1 aprilie 2002 - 1 mai 2006), Serviciul Istoric al Armatei (1 mai 2006 – 1 august 2017), Arhivele militare naționale române (de la 1 august 2017 până în prezent).
În ultimii ani, alături de celelalte activități specifice sistemului arhivistic militar, Arhivele militare naționale române, au desfășurat un proces amplu de implementare și dezvoltare a sistemului informatic de asigurare a managementului integrat al arhivelor militare, menit să realizeze arhivarea în format electronic a fondurilor de arhivă și facilitarea cercetării științifice în arhivele istorice ale Armatei României.
La 28 noiembrie 2019, în cadrul unei ceremonii oficiale desfășurate la Palatul Cotroceni, președintele României, Klaus-Werner Johannis a conferit Arhivelor militare naționale române Medalia Comemorativă „Centenarul Războiului pentru Întregirea Neamului”, în semn de apreciere a activităților cultural-educative desfășurate de Arhivele militare naționale române, alături de alte instituții culturale, militare sau din mediul civil, în cadrul aniversării Centenarului Războiului de Întregire și a Marii Uniri de la 1 Decembrie 1918.