Une promenade à travers le bourg médiéval permet de voir plusieurs maisons anciennes comme l’attestent portes et fenêtres.
L’origine du village est très ancienne, il se trouvait sur une piste Ligure, c'est-à-dire "La voie des marchands" qui reliait la vallée du Rhône à la montagne Ardéchoise. Vers 600 avant J.C. les Grecs sont
arrivés jusqu’à Désaignes. Puis les romains ont occupé les lieux et leur présence est avérée par la découverte de vestiges : monnaies, thermes, villas,... Le village connut son essor au Moyen Age avec le développement de son commerce, artisanat et donc de sa bourgeoisie. Il devint une des plus grandes villes de l’Ardèche (près de 4000 habitants à la Révolution). L’histoire de la commune est fortement liée à celle des Huguenots du Vivarais. Preuve de son attachement à la foi protestante, un temple fut construit en 1608, puis détruit en 1684. Louis XVIII autorisa et finança partiellement la construction d’un second
temple en 1822. Le vieux village, inscrit depuis 1972, est constitué d’un ensemble médiéval ceinturé de remparts percés de 3 portes, une quatrième a été détruite lors de la construction de la route actuelle à l’extérieur des remparts, en 1841. La porte du Bourg de l’Holme a conservé ses mâchicoulis, ainsi qu’une échauguette où se trouvait le guetteur. La porte Janot est proche d’une tour considérée comme une ancienne prison qui possède encore des meurtrières. Enfin, une troisième située au sud, porte le nom de porte du four (ou Fornate) ornée des armes de la famille de Retourtour.
Le château date du XIVe, son donjon, existait déjà en 1319, puisque le seigneur Odon de Retourtour y rédigea son testament. Cette tour a conservé son système défensif, notamment des créneaux, merlons et meurtrières. Une grille ouvrante, forgée sans soudure, date du XVe et a été classée. Sa partie basse mobile, s’ouvrait par un système de charnières.
Un deuxième bâtiment appelé "temple de Diane", contre lequel est venu s’adosser le temple protestant, est sans doute la première forteresse du XIIe. Ce pays de collines à l’activité rurale active, offre un espace idéal de randonnée pédestre, équestre, botanique...