O Museo naceu por iniciativa da Comisión Provincial de Monumentos en 1845, e tivo a súa sede no edifico do antigo Colexio dos Xesuítas da actual rúa de Lamas Carvajal, de onde foi desaloxado en 1852, dispersándose os seus fondos, trasladándose despois ás oficinas da Deputación Provincial, que por aquelas datas se atopaba no antigo Convento de San Domingos. Posteriormente, os seus fondos foron trasladados a diversos sitios, dividíndose entre o Palacio Provincial, o Hospital e outros lugares, como ocorreu cos fondos que se lle cederon ao Concello de Celanova e que agora están na sancristía da igrexa do mosteiro.

No ano 1895 a Comisión Provincial de Monumentos Históricos e Artísticos de Ourense decidiu a creación dun Museo Arqueolóxico Provincial no que se puidesen conservar todos os testemuños do pasado histórico do territorio da provincia e onde se puidesen reunir os tesouros dispersos que formaran parte do Museo de Pinturas.

O Museo Arqueolóxico Provincial de Ourense abriu ao público o ano seguinte nunha instalación nos baixos do Palacio Provincial. As coleccións creceron considerablemente en pouco tempo e pronto cumpriu un espacio máis amplo, dando lugar aos primeiros traslados ata o seu asentamento no ano 1904 no Centro Provincial de Instrucción (o actual Instituto de Ensino Secundario “Otero Pedrayo”), converténdose en punto de referencia imprescindible para a vida intelectual da Galicia da época e para os visitantes con inquedanzas.

O incendio do Centro, que o Museo compartía coa Biblioteca Pública e o Instituto de Segunda Ensinanza, na noite do 8 de nadal de 1927 provocou a destrucción da maioría dos fondos da Biblioteca e dunha parte dos do Museo. O estado do edificio motivou unha serie de traslados e o almacenamento dos fondos en circunstancias deficientes que estiveron a piques de provocar a súa desaparición. Cando se conseguiu un novo local, o antigo hospital das Mercedes, a Guerra civil impediu a instalación e, en novembro de 1938, a Administración do Novo Estado acordou que o Museo se integrase nos da súa dependencia, servidos polos funcionarios do Corpo Facultativo, acordo que se fixo efectivo seguidamente, firmándose acta do traspaso o 11 de febreiro de 1939.

O Museo Provincial que xorde desta aceptación desenvolveu un activo labor de investigación arqueolóxica, recoñecido en diversas ocasións de maneira explícita, así como de recollida e conservación de elementos artísticos e etnográficos que enriquecen paulatinamente as súas coleccións. Nese traballo participaron activamente algúns membros da antiga Comisión de Monumentos e outros investigadores que se vinculan ao Museo a través do Grupo Marcelo Macías de colaboradores, creado en 1940. En 1993, a sección de etnografía, con sede en Ribadavia, separouse para converterse nun museo independente con este exclusivo carácter.

A comezos do ano 2002, o museo pecha ao público para acometer obras de remodelación en profundidade. Os servicios do museo trasládanse ao edificio Santa María de Europa, na Carballeira, no que se almacenan a maioría das coleccións, agás unha selección da escultura máis representativa, que se mostra permanentemente dende maio de 2006, baixo o titulo “Escolma de Escultura” na sala de exposicións San Francisco, que serve tamén de base para outras actividades puntuais.