Locust Hill, situada en medio de las onduladas tierras de cultivo del este del condado de Madison, es una residencia de estilo federal y griego bien conservada asociada con una escuela, una tienda y dependencias domésticas y comerciales que comprenden la aldea de Locust Dale. La sección original de la casa de dos pisos aparentemente fue construida en 1834 por Travis J. Twyman, quien amplió la casa a su forma actual alrededor de 1849. Las características arquitectónicas notables incluyen un porche delantero de dos niveles, repisas finas y carpintería veteada original bien conservada. La casa fue adquirida más tarde por la erudita familia Willis. Larkin Willis II enseñó en la cercana Academia Locust Dale, y su hija, Mary Lucy Willis, enseñó en la escuela pública en una escuela de una sola habitación construida en 1897 que aún sobrevive en la propiedad. Los Willis agregaron a la casa un invernadero, una cocina de verano y una curiosa torre de baños de dos pisos con techo a cuatro aguas. La propiedad también contiene la tienda y oficina de correos Locust Dale, una estructura comercial bien conservada de 1880s ubicada al otro lado de la calle.