Es uno de los edificios destacables de la Plaza Mayor. El palacio data del siglo XVI.
En el siglo XVIII el edificio necesita una reconstrucción de la que se hará cargo el arquitecto Manuel de Lara Churriguera.
Presenta dos fachadas realizadas fundamentalmente en sillería, empleándose la mampostería y el ladrillo en otras partes. En su exterior el vano utilizado realza la obra. En Las dos fachadas abundan los arcos y ventanas.
Presenta un gran escudo de esquina en el que se representa el descubrimiento y conquista del Perú.
La doble cornisa que corona el palacio presenta doce peanas voladas, sobre ellas se disponen otras figuras que podrían representar los doce meses del a–o.
Palacio de San Carlos
En 1595, se produce un incendio en el palacio a consecuencia del cual, sufre tales desperfectos, que tiene que ser reconstruido. La reparación no concluirá hasta el siglo XVII.
Presenta dos fachadas. La primera, de una gran sobriedad, se estructura en tres cuerpos separados por dos amplias cornisas voladas.
La puerta es adintelada y lleva dos pares de columnas jónicas. Remata la fachada el escudo de la familia.
La segunda fachada se estructura en cuatro niveles, siendo el primero una galería porticada de tres arcos de medio punto sobre columnas de orden jónico; en las enjutas de los arcos aparecen los blasones de los apellidos Vargas y Carvajal.
Es necesario destacar también del exterior del edificio, su balcón de esquina y las originales chimeneas de ladrillo mudéjar que se elevan sobre el tejado.
Casa-Museo de Pizarro
Data del siglo XV, sin embargo ha sido reconstruida recientemente, ya que tiene un gran interés histórico por tratarse de la casa donde nació Gonzalo Pizarro, padre del conquistador Francisco Pizarro.
El edificio, cuya reconstrucción se terminó en 1992, es hoy en día la Casa-Museo de Pizarro.