En 1264 las tropas de Alfonso X conquistan de manera definitiva Jerez a los musulmanes. En ese momento el monarca entrega a los dominicos una edificación militar de origen islámico ubicada frente a la puerta de Sevilla, para que fundasen allí su convento. El primer siglo de existencia del monasterio de Santo domingo hubo de ser muy duro, ya que los ataques por parte del Reino nazarí de Granada y sus aliados norteafricanos eran constantes.
La situación comenzó a cambiar a partir de 1340, cuando tiene lugar la batalla del salado en las inmediaciones de la actual Barbate. Cuatro años más tarde Alfonso XI conquista y arrasa Algeciras, con lo que los benimerines (pueblo del norte de África que periódicamente acudía en socorro de los granadinos) perdieron su principal puerto de desembarco. A partir de este momento los ataques a Jerez van a ir desapareciendo, hasta el punto de que la ciudad comenzó a expandirse fuera de sus murallas. El cese de las hostilidades produjo además un importante desarrollo económico, pues las grandes extensiones de tierra que rodean a la población comenzaron a ser cultivadas a pleno rendimiento, lo que generó cuantiosos excedentes. Los dominicos, que en la donación de Alfonso X habían recibido una buena porción de tierras, empezaron a generar beneficios económicos, lo que les permitió ir construyendo paulatinamente un importante complejo arquitectónico, buena parte del cual ha llegado hasta nosotros.
El convento de Santo Domingo permaneció como un conjunto unido hasta 1835, cuando las diferentes desamortizaciones de los gobiernos liberales del reinado de Isabel decretaron la exclaustración y la incautación de los bienes del convento. Aunque la iglesia continuó abierta al culto, los claustros fueron vendidos. En un principio los propietarios fueros los González, importante familia de bodegueros provenientes de la Montaña de Santander, quienes instalaron aquí el llamado Museo de Santo Domingo, una especie de baratillo en el que se vendían obras de arte, muebles y otros objetos de decoración. Luego el complejo pasó a ser propiedad de la familia Díez, quienes instalaron una bodega en el antiguo dormitorio y realizaron una serie de obras un tanto agresivas con el monumento. Los Díez vendieron Los Claustros al holding Rumasa, que fue expropiado en 1983, pasando el edificio a ser propiedad del Ayuntamiento, que lo utilizó como equipamiento cultural durante años. En 1999 el complejo fue cerrado para su restauración, reabriendo sus puertas en 2012.