中国建筑股份有限公司的前身最早可以追溯至中央财政经济委员会总建筑处，为第一个五年计划做准备。1952年8月7日，中央人民政府委员会举行第十七次会议决定成立中华人民共和国建筑工程部，任命陈正人为中央人民政府建筑工程部部长，周荣鑫、宋裕和、万里、刘秀峰为为中央人民政府建筑工程部副部长。建筑工程部隶属于隶属于国务院的部级机构，主管建筑工程等工作，1953年1月，解放军37军番号撤销，原37军司令部合并到建筑工程部1979年3月，撤销国家基本建设革命委员会，成立国家建工总局。
1982年6月，按照国家政企分开的原则，撤消国家建工总局，将国家建工总局直属的第一至第六工程局，东北、西北、西南建筑设计院等，与专门从事对外承包业务的中国建筑工程公司合并组建的全国性特大型建筑联合企业——中国建筑工程总公司。组建时的中建总公司实行国内外一体化经营，是当时国务院的十大公司之一，计划单列。
1983 年9 月，根据国务院、中央军委决定，中建总公司成建制地接收了原基建工程兵第21、第22 支队，分别组建为中国建筑第七、第八工程局。
1984 年以后，相继投资成立或接收了一批独资、内联、中外合资等多种经济类型的企业。
1999－2000年，又先后接收了与建设部脱钩的中国对外建设总公司、中国建设机械总公司、中国市政工程西北设计研究院有限公司等企业。
2007 年12 月6日，经国务院国资委批准，中国建筑工程总公司、中国石油天然气集团公司、宝钢集团有限公司、中国中化集团公司等4家世界500强企业共同发起设立中国建筑股份有限公司。
2009年7月29日，中国建筑在上海证券交易所A股成功上市，以4.18元/股的价格发行120亿股，募集资金总额为501.6亿元，是2009年全球股市最大一单IPO。
2017年12月，经国务院国资委批准，中国建筑工程总公司由全民所有制企业改制为国有独资公司，改制后中建总公司名称为 中国建筑集团有限公司。中建总公司的全部债权债务、各种专业和特殊资质证照等由改制后的中国建筑集团有限公司承继。