Henry Miller, Jr., descendiente de uno de los primeros colonos al oeste de las montañas Blue Ridge, mandó construir esta casa de ladrillo sustancial y finamente equipada para su residencia en 1827. Como se señala en el contrato, la carpintería y la ebanistería de la vivienda fueron ejecutadas por Samuel Gibbons del condado de Rockingham, lo que la convierte en una de las pocas casas de la zona con la que se asocia a un artesano específico. La carpintería, especialmente una repisa tallada con un motivo de tulipán y enredadera, muestra la influencia del estilo alemán en una casa no germánica. El general confederado Thomas "Stonewall" Jackson utilizó la casa como su cuartel general en abril de 1862, comenzando su famosa Campaña del Valle desde este lugar. En 1984 la casa fue donada por la familia Kite a la ciudad de Elkton. Desde entonces, la Casa Miller-Kite ha sido restaurada por la Sociedad Histórica de Elkton para su uso como museo.