„So groziu fiwer sit noch e sach niemen hie ze Wildenberc jenz waren kostenlichiu werc“. Dass der bekannte Dichter Wolfram von Eschenbach, Verfasser des Pazival, Zeitgenosse Ruprechts, Ulrichs und Konrads von Dürn höchstwahrscheinlich in seinem großen Werk Burg Wildenberg verewigte, ist nicht verwunderlich. Die prächtige Anlage, welche nach Bauinschriften am Torturm von Ruprecht und einem urkundlich nicht genannten Burkert von Dürn errichtet wurde, sucht ihresgleichen. Tatsächlich kommt Ruprecht von Dürn, der bis 1172 auch unter dem Namen „von Frohburg“erscheint, am ehesten als Bauherr der Burg Wildenberg infrage. Da er fast ständig im Gefolge des Königs bzw. Kaisers unterwegs war – er wird in über 150 königlichen Urkunden erwähnt – hatte er jedoch wenig Zeit, den Bau voranzutreiben sowie seinen heimischen Besitz zu verwalten. Vielleicht übernahm das sein Verwandter Burkert von Dürn für ihn, den wir jedoch nur aufgrund der Bauinschrift kennen. Der Bau Wildenbergs auf vermutlich noch unerschlossenem Gebiet – daher der Name – verdeutlicht ein hohes Selbstbewusstsein, welches spätestens mit der teilweisen Nennung Ruprechts I. als „comes“ (Graf) in den Zeugenlisten Mitte der siebziger Jahre des 12. Jahrhunderts erreicht gewesen sein dürfte. Man wird daher gegen Ende dieses Jahrzehnts mit dem Bau des Dynastensitzes begonnen haben, der offensichtlich keinem Lehensherrn unterstand und zum Allod (Eigentum) der Familie gehörte. Auch Ruprechts finanzielle Situation muss hervorragend gewesen sein, denn er beauftragt eine große Anzahl an Fachkräften, was sich anhand der vielen verschiedenen Steinmetzzeichen an den Bauteilen der ersten Bauphase erkennen lässt. Hierzu gehören die beiden Türme, die innere Umfassungsmauer, Teile des südlichen Wohngebäudes sowie das Erdgeschoss des Palas. Nahezu das gesamte Mauerwerk ist in aufwändiger Buckelquader-Bauweise erstellt. Der Torturm mit Kapelle im Obergeschoss kam wohl etwas später hinzu. Sein Glattquader-Mauerwerk muss jedoch nicht zwangsläufig auf eine spätere Bauphase schließen lassen, denn es ist typisch für Sakralbauten. Nach Ruprechts Tod nach 1197 ging sein Erbe an seinen einzigen Sohn Ulrich. Ob das Großprojekt Wildenberg bereits vollendet war, ist fraglich, denn auch Ulrich wird nach wie vor nach Burg (Wall-)Dürn zubenannt. Wärend der turbulenten Zeiten des Thronstreits zwischen Staufern und Welfen ging er auf Kreuzzug und kehrte erst kurz vor seinem Tod nach 1212 zurück. Von seinen beiden Söhne übernahm Konrad die Dürner Herrschaft, Ulrich (II.) trat in den Deutschen Orden ein. Um 1220 urkundete Konrad erstmals unter dem Namen „de Wildenberc“, also seinem jetzigen offiziellen Wohnsitz. Konrad fand, im Gegensatz zu seinen Vorfahren, nie Zugang zum Kaiser. Friedrich II. hatte ihm nach Ableben seines mächtigen Schwiegervaters, Boppo, letzer Graf von Lauffen, dessen heimgefallene Reichslehen vorenthalten. Darum schloss er sich der Erhebung König Heinrichs (VII.) gegen dessen Vater, Kaiser Friedrich II. an. Mit der Niederlage des Sohnes sank auch Konrads Stern tief, wovon sich die Familie von Dürn nie wieder gänzlich erholen sollte. Unter Konrad von Dürn entstand das einst prächtige Palas-Obergeschoss auf Wildenberg, von dem nur noch eine frühgotische Fensterreihe auf der Ostseite zeugt. Mit dem Verkauf der Burg durch Konrads Sohn Ulrich (III.) 1271/72 an den Mainzer Erzbischof Werner von Eppstein endete die Dürner Ära auf der Burg.