Myšlienka novej budovy sa zrodila pred sedemnástimi rokmi, keď sa veľkovojvodstvo stalo jednou zo šiestich zakladajúcich krajín Európskej únie, a úrady sa rozhodli podporiť obraz Luxemburska nielen ako ekonomicky prosperujúceho štátu, ale aj ako významné kultúrne centrum kontinentu. Samotná myšlienka vytvorenia zbierky súčasného umenia a jej architektonické stvárnenie v podobe projektu J. M. Pei sa stretla s odporom v rôznych kruhoch konzervatívne zmýšľajúcej spoločnosti. Vďaka tomu bol jeho koncept niekoľkokrát prepracovaný, bol pozastavený dizajn a dokonca aj konštrukcia. Až v roku 1997 sa určilo miesto múzea: ruiny pevnosti Tungen (1732), ktoré boli súčasťou novej budovy. V roku 1999 sa začalo s výstavbou, ktorá však bola na štyri roky prerušená, pretože Pei chcel na svoju stavbu použiť iba zlatý vápenec z Francúzska, čo prinieslo veľa nových problémov.
So zbierkou tiež nastali ťažkosti: keďže v Luxemburgu nikdy neexistovala zbierka umenia 20. storočia, musela byť vytvorená. Z dôvodu obmedzených finančných prostriedkov sa nehovorilo o nákupe diel Daliho a Picassa: drvivá väčšina exponátov z 230 predmetov múzea patrí do obdobia po roku 1980. Podľa riaditeľky múzea Marie-Claude Beauxovej je to však určené na ďalšie rozširovanie zbierky, na zbieranie umenia budúcnosti, umenia XXI. Storočia.
Komplex sa nachádza uprostred parku medzi dvoma obchodnými časťami mesta. Jeho určujúcim prvkom je nazelenalá sklenená veža nad hlavným átriom, ktorá pripomína pevnosť, nad ktorou bola postavená. Takmer všetky podlahy hlavnej úrovne sú sklenené, takže väčšina hál má prirodzené svetlo. Na prízemí sú dve malé galérie a prednášková sála. Vonkajšie steny múzea sú postavené z vápenca medovej farby, hlavný vchod do múzea predstavuje komplexná priestorová kompozícia v podobe výklenku. Celková plocha budovy je 10 000 metrov štvorcových. m, z toho 4 800 štvorcových. m - výstavné priestory. Múzeum nesie meno veľkovojvodu Jeana, ktorý teraz previedol vedenie krajiny na svojho syna Henriho.
