Il Museo nasce dalla volontà del Comune e della cittadinanza di Carpi, espressa fin dal 1955, di commemorare le vittime delle deportazioni nazifasciste, che nella vicina frazione di Fossoli avevano avuto un centro di raccolta verso i campi di sterminio. Nel 1961 maturò la proposta di un'esposizione permanente di documenti e cimeli, individuandone gli spazi nell'ala meridionale del piano terra nell'antico Castello dei Pio. Il progetto museografico fu realizzato da Lodovico Belgiojoso dello studio milanese BBPR, vincitore del concorso nazionale appositamente bandito, in collaborazione con il pittore Renato Guttuso.

La collezione del Museo al Deportato, un migliaio di pezzi in tutto, è riassumibile in tre nuclei. Il primo risale all'istituzione del Museo (fine anni Sessanta) quando molti ex deportati donarono oggetti, documenti, diari e testimonianze relativi ai campi. Un secondo nucleo raccoglie il materiale progettuale relativo al Museo al Deportato, in particolare alla gara che vide vincitore lo studio BBPR di Milano. L'ultimo nucleo, acquisito più di recente, è costituito dalla donazione che il pittore modenese Alberto Cavallari ha fatto di una cinquantina dei propri disegni acquerellati realizzati durante la prigionia. Analogo a questo, nel 1999 si è aggiunto anche l'importante corpus dei disegni che il milanese Aldo Carpi fece durante la sua prigionia nel campo di Gusen, che hanno accompagnato anche il "Diario" ripubblicato di recente.