เมื่อครั้งพระองค์ทรงดำรงค์พระอิสริยยศ เป็นสมเด็จพระเจ้าลูกยาเธอ ได้เสด็จมาประทับ ณ พระราชวังเดิมแห่งนี้ พระองค์ทรงบูรณะปฏิสังขรณ์โบราณสถานของวัดอรุณราชวรารามหมดทั้งพระอาราม โดยเฉพาะอย่างยิ่ง ถึงกับทรงมีพระราชอุตสาหะ ปั้นหุ่นพระพักตร์พระประธานในพระอุโบสถด้วยฝีพระหัตถ์ และทรงโปรดให้หล่อขึ้นประดิษฐานเป็นพระประธานในพระอุโบสถ ทรงพระนามว่า พระพุทธธรรมมิศรราชโลกธาตุดิลก และใต้ฐานพระประธานองค์นี้ ยังเป็นท