Хелденберг е специфична сграда, в същото време паметник на милитаризма от средата на 19-ти век и амбицията на неговия строител, който се обогатява, като доставя храна, плат и обувки за армията на търговеца Йозеф Паргфридер. Той беше приятел с фелдмаршал Йозеф Радецки фон Радец (именно на него е посветен известният марш на Йохан Щраус) и искаше да организира пантеон в чест на този и други големи австрийски военни лидери, по модел на „Валхала“на Лео фон Кленце близо до Регенсбург. Така се появява „планината на героите” - Хелденберг: парков ансамбъл с бюстове и статуи на австрийски императори и изключителни командири от Средновековието, общо има около 150. Погребани са и в специално построена крипта Радецки и друг фелдмаршал, финансиран от Паркфридер, финансиран от Максимилиан фон Вимпфен, който също изплати всичките им дългове. Императорът не може да пренебрегне този патриотичен принос, така че е принуден да издигне предприемача до благороден ранг, който той търси.
В центъра на ансамбъла има „колонна зала“, в която е трябвало да живеят ветерани (съгласно принципа на Парижкия дом на инвалидите). Сега той е зает с военно-историческа експозиция, включително музеят на Радецки. До него е построена нова сграда по проекта на Питър Ебнер, където могат да се провеждат изложби на всякакви, не само „мемориални“теми. Важно е да се отбележи, че сградата се появи като част от мерките за обновяване на Хелденберг, който в края на 20-ти век изпадна в известна пустош. Сега там, освен самия мемориал, има реконструкция на неолитно село и некропол (останките им са намерени наблизо), музей на стари автомобили и дори „шоу гала“на липицански коне.
Тъй като новата сграда на музея се намира в самия център на мемориалния комплекс, тя е почти изцяло скрита под земята, или по-скоро е вписана в нисък вал. От страната на "колонна зала" обемът на входа излиза: сякаш блок от стъкло и бетон, плаващ над земята, на противоположната страна има арка на изхода. На върха на укреплението се виждат още три бетонни обема: през тях навлиза слънчева светлина.
Интериорът е неутрално пространство, като в същото време се избягва схемата, типична за съвременен музей с бели зали - „кутии“, наводнени с електрическо осветление. Тук помещенията, вливащи се една в друга, са осветени от дифузна надземна светлина: това е тих свят, много различен от късната класическа бравура на горния мемориал. Архитектът се стремеше към този ефект.