Az új épület ötlete tizenhét évvel ezelőtt született meg, amikor a Nagyhercegség az Európai Unió hat alapító országának egyike lett, és a hatóságok úgy döntöttek, hogy támogatják Luxemburg mint gazdasági szempontból virágzó állam, hanem mint a kontinens fontos kulturális központja. Azonban maga a kortárs művészeti gyűjtemény létrehozásának ötlete és annak építészeti megtestesülése J. M. projektje formájában. Pei ellenállással találkozott a konzervatív gondolkodású társadalom különböző köreiben. Ennek eredményeként koncepcióját többször felülvizsgálták, a tervezést, sőt az építést is felfüggesztették. Csak 1997-ben határozták meg a múzeum helyét: a Tungen-erőd romjait (1732), amelyeket az új épület beépített. 1999-ben megkezdődött az építkezés, de aztán négy évre megszakadt, mert Pei csak Franciaországból származó arany mészkövet akart használni építkezéséhez, és ez sok új problémát okozott.
Emellett nehézségek merültek fel a kollekcióval kapcsolatban: mivel Luxemburgban soha nem volt 20. századi művészeti gyűjtemény, létre kellett hozni. A korlátozott pénzeszközök miatt Dali és Picasso műveinek megvásárlásáról nem esett szó: a múzeumhoz tartozó 230 tárgyból származó kiállítások túlnyomó része az 1980 utáni időszakba tartozik. De a múzeum igazgatója, Marie-Claude Beaux szerint a gyűjtemény további bővítésére, a jövő művészetének, a XXI.
A komplexum egy park közepén található, a város két üzleti kerülete között. Meghatározó jellemzője a fő pitvar fölötti zöldes üveg torony, amely arra az erődre emlékeztet, amely felett felépült. A fő szint szinte minden emelete üvegből készült, így a termek többségében természetes fény világít. A földszinten két kis galéria és egy előadóterem található. Kívül a múzeum falai mézszínű mészkővel vannak szemben, a múzeum főbejárata egy komplex térbeli kompozíció, fülke formájában. Az épület teljes területe 10.000 négyzetméter. m, ebből 4800 négyzetméter. m - kiállítási terek. A múzeum Jean nagyherceg nevét viseli, aki most az ország irányítását átadta fiának, Henrinek.