El Museo nació por iniciativa de la Comisión Provincial de Monumentos en 1845, y tuvo su sede en el edifico del antiguo Colegio de los Jesuitas de la actual calle de Lamas Carvajal, de donde fue desalojado en 1852, dispersándose sus fondos, trasladándose después a las oficinas de la Diputación Provincial, que por aquellas fechas se encontraba en el antiguo Convento de Santo Domingo. Posteriormente, sus fondos fueron trasladados a diversos sitios, dividiéndose entre el Palacio Provincial, el Hospital y otros lugares, como ocurrió con los fondos que se le cedieron al Ayuntamiento de Celanova y que ahora están en la sacristía de la iglesia del convento.
En el año 1895 la Comisión Provincial de Monumentos Históricos y Artísticos de Ourense decidió la creación de un Museo Arqueológico Provincial en el que se pudieran conservar todos los testimonios del pasado histórico del territorio de la provincia y donde se pudieran reunir los tesoros dispersos que habían formado parte del Museo de Pinturas.
El Museo Arqueológico Provincial de Ourense abrió al público el año siguiente en una instalación en los bajos del Palacio Provincial. Las colecciones crecieron considerablemente en poco tiempo y pronto se necesitó un espacio más amplio, dando lugar a los primeros traslados incluso su asentamiento en el año 1904 en el Centro Provincial de Instrucción (el actual Instituto de Enseñanza Secundaria “Otero Pedrayo”), convirtiéndose en punto de referencia imprescindible para la vida intelectual de la Galicia de la época y para los visitantes con inquietudes culturales.
El incendio del Centro, que el Museo compartía con la Biblioteca Pública y el Instituto de Segunda Enseñanza, en la noche del 8 de diciembre de 1927 provocó la destrucción de la mayoría de los fondos de la Biblioteca y de una parte de los del Museo. El estado del edificio motivó una serie de traslados y el almacenamiento de los fondos en circunstancias deficientes que estuvieron a punto de provocar su desaparición. Cuando se consiguió un nuevo local, el antiguo hospital de las Mercedes, la Guerra civil impidió la instalación y, en noviembre de 1938, la Administración del Nuevo Estado decidió que el Museo se integrara en los de su dependencia, servidos por los funcionarios del Cuerpo Facultativo, acuerdo que se fijo efectivo seguidamente, firmándose acta del traspaso el 11 de febrero de 1939.
El Museo Provincial que surge de esta aceptación desarrolló una activa labor de investigación arqueológica, reconocida en diversas ocasiones de manera explícita, así como de recogida y conservación de elementos artísticos y etnográficos que enriquecen paulatinamente sus colecciones. En ese trabajo participaron activamente algunos miembros de la antigua Comisión de Monumentos y otros investigadores que se vinculan al Museo a través del Grupo Marcelo Macías de colaboradores, creado en 1940. En 1993, la sección de etnografía, con sede en Ribadavia, se separó para convertirse en un museo independiente con este exclusivo carácter.
A comienzos del año 2002, el museo cierra al público para acometer obras de remodelación en profundidad. Los servicios del museo se trasladan al edificio Santa María de Europa, en la Carballeira, en el que se almacenan la mayoría de las colecciones, excepto una selección de la escultura más representativa, que se muestra permanentemente desde mayo de 2006, bajo el titulo “Escolma de Escultura” en la sala de exposiciones San Francisco, que sirve también de base para otras actividades puntuales.