Odlukom Vlade Republike Srbije od 19. februara 2009. godine osnovan je Arhiv Jugoslavije, kao ustanova u oblasti kulture. Službeni glasnik Republike Srbije br. 15. od 27. februara 2009.
Time je, umesto naziva Arhiv Srbije i Crne Gore koji je nosio od 2003. godine, vraćen njegov stari naziv – Arhiv Jugoslavije. Delatnost Arhiva Jugoslavije ostala je nepromenjena.

Inicijativu za osnivanje Arhiva jugoslovenske države stvorene 1918. godine i donošenje zakona kojim bi se regulisala nadležnost i delatnost dao je Odbor Državne arhive u Beogradu (sada Arhiv Srbije) 1922. godine. Pripreme i rad na projektu zakona trajali su do 1935. godine, ali do donošenja zakona i osnivanja Arhiva nije došlo.

Posle Drugog svetskog rata, 1950. godine, donet je Opšti zakon o državnim arhivama. Ovim zakonom osnovan je Arhiv pod nazivom DRŽAVNA ARHIVA FNRJ. Od tada je Arhiv nekoliko puta menjao ime.

Neposredna primena saveznih propisa i Opšteg zakona o državnim arhivama bila je od posebnog značaja za sistematsko prikupljanje arhivske građe. Državna arhiva FNRJ sa sedištem u Beogradu radila je pod nadzorom Saveta za nauku i kulturu Vlade FNRJ, a od kraja 1953. godine kao samostalni savezni organ pod nazivom DRŽAVNI ARHIV FNRJ. Opšti zakon o državnim arhivama regulisao je ne samo osnivanje Državnog Arhiva FNRJ nego i državnih arhiva narodnih republika i drugih arhiva u zemlji. Zakonom o saveznim organima uprave iz 1956. godine Državni arhiv FNRJ dobio je status upravne ustanove pod nadzorom Sekretarijata Saveznog izvršnog veća za prosvetu i kulturu.

Savezna skupština je 1964. godine donela Zakon o Arhivu Jugoslavije. Od tada Arhiv nosi naziv Arhiv Jugoslavije. Zakonom je propisano da Arhiv: evidentira, prikuplja, sređuje, obrađuje, održava, po potrebi objavljuje i daje na korišćenje arhivsku građu.

Arhivska građa od posebnog interesa je: arhivska građa centralnih državnih organa, centralnih ustanova i centralnih organa društveno-političkih i drugih organizacija Kraljevine Jugoslavije; arhivska građa organa federacije, organizacija osnovanih za vršenje poslova iz nadležnosti federacije; saveznih organa; društveno-političkih i drugih organizacija, kao i arhivska građa građansko-pravnih lica i pojedinaca čija je delatnost od opštejugoslovenskog značaja. Po ovom zakonu Arhiv Jugoslavije imao je status ustanove u oblasti kulture, a nadzor nad zakonitošću rada imao je Savezni sekretarijat za prosvetu i kulturu.

Novi zakon o Arhivu Jugoslavije donet je 1973. godine. U okviru statusnih pitanja, Zakon je predviđao da Arhiv Jugoslavije ima status ustanove osnovane radi obavljanja poslova od interesa za ostvarivanje funkcija organa federacije. Nadzor nad zakonitošću rada Arhiva Jugoslavije obavljao je Savezni sekretarijat za pravosuđe i opštu upravu. U pogledu prava i obaveza Arhiva u odnosu na arhivsku građu, Zakon je predviđao da Arhiv: prikuplja, čuva, sređuje, obrađuje, održava, objavljuje i daje na korišćenje arhivsku građu nastalu u radu centralnih državnih organa i ustanova, centralnih organa političkih partija i drugih organizacija i stručnih i drugih udruženja Kraljevine Jugoslavije; evidentira, odabira, prikuplja, sređuje, obrađuje, održava, čuva, objavljuje i daje na korišćenje arhivsku građu koja je nastala u radu organa federacije i ustanova osnovanih radi vršenja poslova od interesa za ostvarivanje funkcija organa federacije, kao i centralnih organa društveno-političkih i drugih organizacija i udruženja građana na nivou federacije.

Zakonom o izmenama i dopunama Zakona o Arhivu Jugoslavije, donetim 1976. godine, propisano je da nadzor nad zakonitošću rada Arhiva vrši Savezni komitet za nauku i kulturu.

Zakonom o organizaciji i delokrugu saveznih organa uprave i saveznih organizacija, koji je donela Skupština SFRJ 1978. godine, Arhiv Jugoslavije dobio je status savezne organizacije i ušao je u strukturu savezne uprave. Kao savezni organ uprave vršio je upravne, stručne i druge poslove iz okvira prava i dužnosti federacije, zavisno od delokruga utvrđenog Zakonom.

Skupština SFRJ je 1986. godine donela Zakon o arhivskoj građi federacije, koji je precizno i celovito regulisao status Arhiva Jugoslavije (kao savezne organizacije) i pitanja: šta se smatra arhivskom građom federacije; koji subjekti stvaraju arhivsku građu federacije; prava i obaveze tih subjekata prema arhivskoj građi; prava i obaveze Arhiva Jugoslavije prema tim subjektima, uključujući i obavezu primene stručne metodologije rada na arhivskoj građi vodeći računa o dotadašnjim vlastitim i svetskim iskustvima i dostignućima u arhivističkoj teoriji i praksi.

Donošenjem Ustava Savezne Republike Jugoslavije i Ustavnog zakona za sprovođenje Ustava SR Jugoslavije 1992. godine, prema dinamici utvrđenoj za usaglašavanje propisa SFRJ sa Ustavom SRJ, marta 1998. donet je Zakon o arhivskoj građi Savezne Republike Jugoslavije[link na Zakon]. U skladu sa tim Zakonom i podzakonskim propisima koje je donela Savezna vlada, Arhiv je nastavio rad kao organizacija savezne uprave sa nadležnostima koje su se u najvećem delu bazirale na dotadašnjim propisima.

Savezna Republika Jugoslavija prestala je da postoji februara 2003. kada je osnovana Državna zajednica Srbija i Crna Gora. Prema Zakonu o sprovođenju Ustavne povelje Državne zajednice Srbija i Crna Gora od 4. februara 2003, Arhiv Jugoslavije nastavio je da obavlja poslove, do definisanja konačnog statusa, u skladu saveznim zakonom i drugim saveznim propisima kojima je do tada regulisana njegova delatnost.

Promena naziva u ARHIV SRBIJE I CRNE GORE usledila je donošenjem Zakona o budžetu Republike Srbije za 2003. godinu. Nadležnosti Arhiva Srbije i Crne Gore regulisane su Uredbom o obrazovanju ministarstava, organizacija i službi Saveta ministara koja je doneta 10. juna 2003. Prema toj uredbi Arhiv, kao organizacija državne zajednice, obavlja poslove koji se odnose na: evidentiranje, prikupljanje, preuzimanje, sređivanje, obradu, objavljivanje, izučavanje, zaštitu i korišćenje arhivske građe i registraturskog materijala koji nastaju radom stvaralaca arhivske građe Srbije i Crne Gore, a to su Skupština Srbije i Crne Gore, predsednik Srbije i Crne Gore, Savet ministara, Sud Srbije i Crne Gore, ministarstva i drugi organi uprave Saveta ministara, kao i nadzor nad njihovim radom u pogledu arhivske građe i registraturskog materijala kojima raspolažu; arhivsku građu i registraturski materijal koji su nastali radom centralnih državnih organa i organizacija, ustanova, drugih državnih institucija, političkih i drugih organizacija, zajednica, udruženja i drugih subjekata jugoslovenske države od njenog stvaranja 1918. do 2003. godine; međunarodnu saradnju iz arhivističke struke i poslove vezane za primenu Sporazuma o pitanjima sukcesije, Aneks D – Arhive, u pogledu "Državne arhive SFRJ".

Nestankom Državne zajednice Srbija i Crna Gora  maja 2006, Republika Srbija je postala samostalna država i dobila svojstvo države sledbenika. Republika Srbija je na osnovu Uredbe o finansiranju nadležnosti, koje su sa bivše državne zajednice prešle na Republiku Srbiju, nastavila da finansira nadležnosti Arhiva Srbije i Crne Gore. Naziv Arhiv Srbije i Crne Gore, egzistirao je od 2003 do 19. februara 2009. godine, kada je Odlukom Vlade Republike Srbije osnovan Arhiv Jugoslavije, kao ustanova u oblasti kulture.