Los restos de la esquina sureste son aún de mayor entidad. Se encuentran también entre las casas, como cimiento de una de ellas y son sólo visibles desde la ladera de enfrente. El paño tiene alrededor de 7 m de largo por unos 3 m de alto. Conserva algo más de tres cajones de tapial de calicantos sobre una pequeña base de mampostería. Es posible que se trate igualmente de una torre situada en la esquina de la manzana de casas.
Al parecer, también se conserva el aljibe en el interior de una de las viviendas. Así lo recoge también P. Madoz en el s. XIX: “El barrio del Castillo está en el centro; en su parte superior hay vestigios de una fortaleza de tiempo de moros, que dominaría toda la población, conservándose restos de sus murallas; tiene 300 pasos de diámetro, una plazuela en medio, conocida entre los naturales con el nombre de Turrión, en la que se descubre el borde de un estanque o cisterna de 3 varas cuadradas, sin que hayan descubierto su profundidad”.
Por lo exiguo de las estructuras se hace muy difícil la interpretación de las mismas. Tenemos noticias de Huéneja (Winya) ya desde el siglo IX durante la fitna o revuelta producida en el emirato. Éste sería uno de los castillos fieles a los Omeyas, en el que permaneció varios días Hisham, tío del emir Abd al-Rahman II, en el año 896. Sin embargo, los restos que hoy vemos muy posiblemente no tengan nada que ver con aquella primera fortaleza, sino con el conocido como castillo de Montaire, mencionado en el s. XI en las luchas entre los reinos taifas de Granada y Almería.
