L'idée d'un nouveau bâtiment est née il y a dix-sept ans, lorsque le Grand-Duché est devenu l'un des six pays fondateurs de l'Union européenne, et que les autorités ont décidé de soutenir l'image du Luxembourg non seulement en tant qu'Etat économiquement prospère, mais aussi en tant que centre culturel important du continent. Cependant, l'idée même de créer une collection d'art contemporain, et son incarnation architecturale sous la forme d'un projet de J. M. Pei a rencontré une résistance dans divers cercles de la société conservatrice. En conséquence, son concept a été révisé à plusieurs reprises, le design et même la construction ont été suspendus. Ce n'est qu'en 1997 que le site du musée a été déterminé: les ruines de la forteresse de Tungen (1732), qui ont été incluses dans le nouveau bâtiment. En 1999, la construction a commencé, puis elle a été interrompue pendant quatre ans car Pei voulait utiliser uniquement du calcaire doré de France pour sa construction, ce qui a donné lieu à de nombreux problèmes nouveaux.
Aussi, des difficultés sont apparues avec la collection: comme il n'y a jamais eu de collection d'art du XXe siècle au Luxembourg, il a fallu la créer. En raison de fonds limités, il n'a pas été question d'acheter des œuvres de Dali et Picasso: la grande majorité des objets exposés sur les 230 objets appartenant au musée appartiennent à la période postérieure à 1980. Mais, selon la directrice du musée, Marie-Claude Beaux, il vise à élargir encore la collection, à collectionner l'art du futur, l'art du XXI siècle.
Le complexe est situé au milieu d'un parc, entre deux quartiers d'affaires de la ville. Sa caractéristique déterminante est la tour de verre verdâtre au-dessus de l'atrium principal, qui rappelle la forteresse sur laquelle elle a été construite. Presque tous les planchers du niveau principal sont en verre, de sorte que la plupart des salles sont éclairées par la lumière naturelle. Au rez-de-chaussée, il y a deux petites galeries et une salle de conférence. À l'extérieur, les murs du musée sont recouverts de calcaire couleur miel, l'entrée principale du musée est une composition spatiale complexe en forme de niche. La superficie totale du bâtiment est de 10 000 m². m, dont 4.800 m2 m - espaces d'exposition. Le musée porte le nom du Grand-Duc Jean, qui a désormais transféré la direction du pays à son fils Henri.
