El archivo diocesano tiene su origen en la fundación de la Diócesis de Vitoria en 1862. Su primer documento, como tal, será la Bula de Erección In Celsissima, otorgada por S. S. Pío IX el 8 de septiembre de 1861 y ejecutada, mediante Decreto de Creación, el día 28 de abril del año siguiente, festividad de San Prudencio, patrono de la provincia de Alava.

No obstante, un importante volumen de la documentación que recoge actualmente es anterior a estas fechas. El documento más antiguo data del año 1222 y forma parte del Fondo del Cabildo de la Catedral de Santa María de Vitoria, que recoge testimonios de la existencia de la antigua Colegiata de Armentia, existente ya en el siglo IX e integrada en la demarcación pastoral de Calahorra, tras la supresión del Obispado del mismo nombre, a la muerte del Obispo D. Fortunio II en el año 1087.

Para la formación, en 1862, de la Diócesis de Vitoria se segregarán los territorios de Alava, Guipúzcoa y Vizcaya que pertenecían a Calahorra. Así mismo, a la Diócesis de Pamplona se le sustraen los territorios que pertenecen civilmente a Guipúzcoa y, del mismo modo, Valdegovía y Salinas de Añana saldrán del Arzobispado de Burgos. Igualmente Santander habrá de ceder el Arciprestazgo de Arceniega.

Las circunstancias del momento no permitirían el traslado de toda la documentación referente a estos territorios desde Calahorra, Santo Domingo de La Calzada y Pamplona, como preveía la Bula de Erección de la Diócesis, por lo que desde entonces se ha conservado en los archivos de los lugares precedentes.

El Papa Pío XII dispone por la Bula Quo commodius, de 1 de julio de 1950, la división del territorio vasco en las tres Diócesis actuales, Bilbao, San Sebastián y Vitoria, agregando a ésta última el Condado de Treviño (Burgos). En consecuencia, se traslada parte de la documentación a las dos nuevas sedes.

A partir del Decreto de la Sda. Congregación Consistorial Victoriensis et Calagurritanae de limitibus se perfilarán definitivamente, en 1951, los actuales límites de la Diócesis que, con 3.283 Km2 , abarca toda la provincia de Alava y los enclaves de Orduña (Vizcaya), el citado Condado de Treviño y La Puebla de Arganzón y sus parroquias (Burgos).

El 31 de julio de 1969 D. Francisco Peralta Ballabriga, Obispo de Vitoria, recogerá en un decreto los fundamentos para la creación, en la Curia Episcopal, del Archivo General Diocesano, con el fin de garantizar la recogida, organización y descripción de los fondos pertenecientes a esta Diócesis. También comenzarán a darse los primeros pasos para la concentración de los fondos parroquiales de todo el territorio en el Archivo Histórico Diocesano, con el fin de facilitar la investigación sobre el patrimonio monumental de la Diócesis. Con ello se pretende además mejorar las condiciones de conservación y custodia de muchos de ellos y avanzar en la elaboración de los instrumentos de descripción correspondientes. En la actualidad un 95% de las parroquias ha respondido a este plan.

En 1977, ante el incremento de las consultas relacionadas con el estudio de la Genealogía y, en consecuencia, por las necesidades que se plantean en relación con la conservación de las fuentes originales, se aceptará un proyecto presentado por la Sociedad Genealógica de Utah para la microfilmación de libros sacramentales, que permite desde entonces la consulta de este tipo de datos a través de lectores de microfilm.

La firma, en el año 2000, de un convenio de colaboración entre las Diócesis Vascas y el Gobierno de la Comunidad Autónoma permitirá en un futuro acceder al contenido de estos libros a través de imágenes digitalizadas, y adaptar sus instrumentos de descripción a las normas archivísticas internacionales ISAD (G) e ISAAR (CPF).