档案馆前身为安徽建筑工业学院综合档案室，成立于1992年2月，科级建制，隶属原学院办公室。2017年1月，学校成立独立建制档案馆，处级建制，原综合档案室及工作人员整体归并。
学校高度重视档案工作，明确了分管档案工作的校级领导，并将档案工作纳入学校教育事业发展“十三五”规划、年度工作要点、年度目标管理综合考核指标等。校属各单位均有明确分管档案工作负责人和兼职档案员，档案管理网络健全。档案馆经费列入学校预算，新馆基建、装修、设备、档案信息化等经费保障充分。
档案馆原位于北区行政楼五层，总面积160㎡，其中库房面积约122㎡。2017年11月，整体搬迁至南区实验综合楼二楼、三楼，面积约1100㎡，其中库房面积约750㎡，严格执行库房、办公室、技术用房“三分开”。配备计算机、复印机、打印机、扫描仪、碎纸机和保密柜、防磁柜、光盘柜、实物柜、空调、除湿机、温湿度仪等专业技术设备，切实做好档案库房“八防”工作。
档案馆依法依规集中统一管理学校档案，根据高校档案实体分类设置，现已形成党群、行政、教学、科研、基本建设、仪器设备、产品生产、出版物、外事、财会、专题、声像、实物等十三类档案。每年档案收集数量持续增加。
档案馆是国家“科技事业单位档案管理”二级单位，2014年度安徽省省直单位档案年检“优秀”单位，2017年增补为安徽省高校档案工作协会常务理事单位。馆内机构下设综合与信息数据科、档案管理科。现有馆长1名，档案专职管理人员6名，其中正科级1人、副高级职称1人、中级、初级及见习期4人，队伍年龄、学历、专业结构不断优化。
档案馆将以建馆为契机，进一步丰富馆藏内容，优化馆藏结构，加强档案信息化建设，加大档案信息资源开发力度，努力把档案馆建设成为学校的档案安全保管基地、档案利用服务中心和文化教育基地，促进档案事业与学校各项事业协调发展，为建设高水平、有特色建筑类大学做出应有贡献。