民国时期，中山桥已闻名全国许多游客都要在桥上照相留念。
德商喀佑斯承包黄河铁桥后，委托美国桥梁公司设计，由德国泰来洋行组织修建。设计铁桥由上部结构（桥身）和下部结构（桥墩）两部分组成。上部结构为穿式钢桁架，共计5孔，每孔跨径45.9米，全长233.5米；每孔2片桁架，共计10片桁架；每片桁架有9个节间，每节间各为5.1米，桁架高5.1米。木板桥面总宽8.36米，其中车行道宽6米，两侧人行道各宽1米。桁架横梁为钢梁，栏杆由角铁及钢管焊接而成，高1.3米。下部结构由2座桥台、4个桥墩组成，桥墩为高强快凝水泥砌料石重力式桥墩，桥台为水泥砂浆砌条石桥台，沉井基础开挖至岩层。设计荷载为8吨，仅供马车通行。设计桥头高于两岸1米，南北桥头各建牌坊1座。
由于当时中国近代工业处于起步阶段，钢铁工业极其落后，无法生产修建铁桥所需的合格钢材，所以合同规定修建铁桥所需钢铁、水泥等建筑材料，均由德国泰来洋行自行从外国购置。根据原始合同记载，大部分建筑材料购自德国；又据上世纪50年代初尚留于铁桥上的铜牌子记载，材料来自美国桥梁公司，但材料来源究竟系何处，根据现在所知资料，仍无法确定。
修建铁桥所需的全部钢铁、水泥等建筑材料和使用的锅炉、机器、沉箱、小铁轨等，按合同规定，均限于光绪三十三年（1907年）五月全部由德国运至天津。天津至兰州由甘肃洋务局派员接运。
材料由泰来洋行海运至天津下船后，由天津经京奉铁路运至丰台火车站，再由丰台转京汉铁路运至河南新乡火车站。新乡至西安，西安至兰州，均由各地马车运输。所有材料的转运任务，从天津到兰州，完全由甘肃洋务局负责派员办理。为稳妥、安全、顺利地将材料运至兰州，甘肃洋务局在兰州、新乡、西安三处各派了材料接运委员，全面负责各路段的转运工作。派驻天津的材料接运委员为候补知县张钟骏、县丞赵毓岳、巡检傅晸；驻河南新乡的材料接运委员是县丞麦方堃、典史臧炳文；驻西安的材料接运委员是候补知县沈朝云、刘启烈、府经历高镜寰；并在兰州设立收料委员会，主持收料事宜。
料件由天津至新乡全由铁路运输，没有什么大的困难；但由新乡经西安至兰州却困难重重。新乡到兰州既无铁路，又无公路，仅有只能通行大车的驿道，而且崎岖难行。特别是潼关以东、甘肃六盘山等处，坡大沟深，道路迂曲狭窄，坎坷不平，要用大车将数百万公斤的料件运抵兰州，绝对不是一件容易的事，也不是兰州所能独立承担的。为了尽快建成铁桥，当时采用了分段承包运输的办法：新乡到西安由山东、河北、河南、陕西大车户联合承包运输：西安到兰州由兰州大车户单独承包运输。当时的旧式铁轮大车均为2只木轮外包铁皮，虽称为铁轮，实际仍为木轮，外部包一层铁皮只是为了增加耐磨力而已。这种车载重量小，运输小型料件尚能应付，运输大型的特殊机件，则很难承担。当时，承包西安至兰州运输任务的兰州铁轮大车户王新年（人称王大帮），经泰来洋行介绍，在天津定做了6辆4轮大车，连同旧式大车共40辆，专门运输铁桥料件。所有材料、机具设备于清光绪三十三年（1907年）八月起运，分36批，至第二年（1908年）五月，历时10个月全部运至兰州。所运材料机具中，钢梁、铁板条及其他机件重量估计约在120万斤以上，洋灰（水泥）2240桶（合770560斤），小轻便铁轨2300米（合138000斤），以及锅炉、沉箱、钢丝绳等，总计约400万斤。当时的中国，还是一个半封建半殖民地的国家，经济十分落后，国力十分薄弱，在交通条件和运输工具极其原始的情况下，将400万斤的钢材零部件、设备、机具等用马车拉运，辗转数千里，途经数省，排除各种艰难险阻，安全完整地运到兰州，确实是一大奇迹。
材料、设备、机具运到兰州后，黄河铁桥于清光绪三十四年（1908年）正式动工兴建。当时黄河水深约2.6米，距水面6米就挖到了基岩：北面是红砂岩，南面是青砂岩，并挖去基岩风化层，然后下铁船（即沉箱），中间竖有铁管，周围灌注混凝土。桥下部共有4个墩，河南第一墩最深，墩底距当时水面6米左右。经多年洪水考验，墩台完好，证明铁桥基础建筑在基岩上。
关于铁桥的基础，1952年，西北军政委员会交通部公路局设计公司为做好加固中山桥的前期准备工作，对中山桥的历史和现状进行了详细的调查和检验。在调查修建历史时，曾访问了居住在黄河铁桥附近的一位73岁的老人马恒，这位老人在一开始修建黄河铁桥时就在工地上当小工。他说：“当时做基础时，水深有七八尺，挖下去离水面一丈七八尺深就挖到了石头层，北面是红砂石，南面是青砂石，并且还把石头挖下去了一部分，然后下的铁船（沉箱），中间竖有铁管，周围灌有混凝土。”《兰州古今注》说：“桥下设四墩，下用水泥铁柱，上用石块，河南第一墩最深，墩底至水面一丈七八尺有奇。”《甘肃劝业道报告书·铁桥图说》载：“（铁桥）于光绪三十四年二月动土，至宣统元年六月一律告竣，计桥长七十丈，宽二丈二尺四寸，架桥四墩，中竖铁柱，外以塞门德土参合石子石条成之。”根据以上记载，可以推测出桥台、桥墩的基础建在石层上，深度约在当时水面下6米左右，用开口式沉箱灌混凝土而成。
修建桥墩、桥台的材料不一样，南桥台是条石砌的，北桥台是混凝土的。南面第一墩上部是浆砌条石，下部是混凝土。其余3个桥墩上部是混凝土，下部是浆砌疙瘩石。修建材料不一样的原因，据马恒说，“是当时为了看看石头砌起来是不是好，所以先从南桥台开始用石头砌，后来觉得用石头砌不如用混凝土的好，同时洋灰（水泥）也有限，因此以后变为一部分利用石头砌，一部分利用混凝土”.
兰州黄河铁桥虽然是德国泰来洋行喀佑斯承包，美国桥梁公司设计，但具体承担施工任务的大多数是中国人。据有关资料记载，自始至终督办修桥一切事务的是二品衔兰州道彭英甲；协助彭英甲管理修桥事宜的有2个人，1个是兰州府知府刘振镛，1个是皋兰县知县赖恩培；监理工程的是甘肃洋务局坐办、候补知县樊鼎枢、徐登第；英文翻译是县丞江连庆、照磨孙贤、巡检林庆椿、千总蒲生禄。施工现场的外国人主要有两个人，1个是美国工程师满宝本，负责图纸提调，即施工技术负责人；1个是德国工程师德罗，负责收管材料，统计施工进度等。工地具体操作负责人是天津人刘永起（通称刘工头），还有从天津、上海等地招来的技术工人十多人，兰州当地雇用的铁、木、泥工匠六十多人，以及小工数百人，最多时有五百多人参与具体施工。桥工和工程技术人员在积极努力下，克服了施工中的各种困难，经过一年零四个月的辛勤劳动，于清宣统元年（1909年）6月完工。为使这座黄河上游首创的永久性铁桥更加雄伟壮观，在桥两端分别建造有一座石木结构的大牌楼，上有升允所题“第一桥”匾额。
铁桥原设计为木纵梁上面横铺铁板，竣工时改为木纵梁上铺沙子。当时，护理陕甘总督毛庆蕃认为桥面不铺铁板而铺以沙石，显然是偷工减料，取巧搪塞，不予签收凭证，所以剩余款项无法领讫。经过多次交涉，由承包商将石子除去改铺木板桥面才完结。
清宜统元年七月十日（1909年8月25日），委派监修桥工委员和巡护桥工的护勇（维护铁桥施工现场的兵卒）全部遣散。宣统元年七月十五日（1909年8月30日）铁桥验收通车。
在通车的当天，护理陕甘总督毛庆蕃向军机处发电报说：兰州城外黄河上向来架设有浮桥，每年河冰融解时不免伤人，前任陕甘总督、大学士左宗棠曾有引进外洋技术修建桥的动议。后来升允任陕甘总督后，指示有关人员与德国商家泰来洋行签订协议兴建铁桥，已有奏折陈明。现在桥已竣工，并于本月十五日通车，仅以电报陈述明白。另外，桥面工程采用碎石和土铺压于松木板之上，我曾咨询监造桥梁的洋人和各工匠，再三考证研究，认为碎石损伤木料，恐难持久，不如铲除石子，添加木板，以便随时更换。经过再三商议，不敢吝惜小费，总要以保护行人安全为上。铁桥竣工后，升允撰文立碑，以记述创建黄河铁桥之始末。
工程造价
兰州黄河铁桥工程实际共用库平银约306992两，其中：泰来洋行桥工总包价行平银165000两，折合库平银159555两；由天津至新乡运费行平银约23767两，折合库平银约22983两；由新乡至西安运费汴平银约58732两，折合库平银约57352两；由西安至兰州运费议平银约45528两，折合库平银约43707两；在兰州购制船只、木杆、麻绳等项，并桥成后另送工程师来往差旅费，共折合库平银约26631两。
以上包修桥价及各项杂费共用去库平银约310228两，除垫付洋商应认关税汇费库平银约3536两仍由洋商返还外，实用库平银约306692两，全部由甘肃地方从统捐总局收项下核拨支付，同时造具清册，连同铁桥照片上报中央各部并上奏朝廷经皇上核准，交主管部门核销。
宣统元年（1909年）七月十日遣散维护桥工现场的兵勇后，即于当时由皋兰县选募壮年男子12名，充作铁桥巡兵，轮流巡查并负责弹压不法行为。每名巡兵每月发给工资兰平银3两，当时这项开支尚无资金渠道。以前搭造浮桥，一向由皋兰县在统捐局领取浮桥零星修理费用200两作为常年经费，尚不包括添造船只的款项。铁桥修好后，浮桥即刻拆除，浮桥经费已无须支出，故洋务局请示陕甘总督，由统捐局每年拨付400两，兰州府从府税中拨付部分，作为巡兵工资和每年维修铁桥购置木板的费用。铁桥通车后，甘肃洋务局拟订年修铁桥法规9条，车马行人规定6条。
年修铁桥法规规定：铁桥已经修成，应责成皋兰县和兰州府经历督同巡兵认真管理；由皋兰县招募巡兵12名，每人每月支付工资白银3两；巡兵的工资系由洋务局每年在统捐局领取白银400两，兰州府申送税银200两，由皋兰县按月在洋务局领取后发放；铁桥如果有上油、换板等事，由皋兰县呈报洋务局，以便随时核估，按实际需要开支；桥板如果有损坏、折断的，桥底直板如有潮湿受损的，都应当随时补修。规定铁桥每年八月天气暖和时上油一次；铁桥上下的一切螺丝凡用白粉油标记的每天上紧一次；铁桥上一切用白粉油标志的螺丝、钉稍，有损坏的应当随时更换。
巡兵站岗及车马行人往来条规规定：12名巡兵分3班，每班4个钟头，轮流更换巡查，并负责铁桥卫生和观察铁桥桥板、螺丝等的松动、损坏情况。并对巡兵的站岗位置，车马行人的行走路线以及交通规则予以规定。民国以后，府经历一职裁撤，铁桥管修任务改由甘肃省会警察局接办。1940年以后，由于甘青公路正式运营，铁桥系通往新疆、青海的咽喉，故由西北公路管理局接收，并将两岸牌楼以不能过汽车为由拆除，交兰州公路段管理养护，并设一名管桥工人一直管养至1949年8月26日兰州解放。
兰州黄河铁桥是中国近代史上兰州市、甘肃省乃至整个西北地区第一座引进外国技术建造的桥梁，是黄河上游的第一座永久性桥梁。在贫穷落后的旧中国，它与郑州黄河铁桥、济南黄河铁桥并称为黄河三大桥梁，在中国桥梁建设史上占有光辉的地位。1942年，为纪念孙中山先生，铁桥改名为中山桥（另一说为1928年改名为中山桥）。解放后，济南黄河铁桥、郑州黄河铁桥先后被拆除。目前，中山桥是黄河上唯一留存的近代桥梁，已有104年历史。今天，它不仅仍是兰州的交通动脉，而且还有极大的历史价值和极高的文物价值，已成为兰州市标志性建筑，先后被兰州市、甘肃省列为市级、省级文物保护单位。（2006年又被列为全国重点文物保护单位）。
兰州黄河铁桥建成后，极大地改善了黄河两岸交通状况，对增进中原与西北地区的政治、经济、文化和科学技术交流，以及加强国防、保卫边疆均作出了极大贡献。清末皋兰县知县、作家黄英的《兰州黄河铁桥赋》说：“亚洲巨流，黄河为最，遐稽往册，未有桥梁。光绪二十九年（1903年），郑州铁桥成，然只供火车之用。不通车马，行人阻焉。甘肃兰州城北，兵商要津，西尽乌孙、龟兹，横走天山南北，蒙盟藏一，于焉旁达。金城古渡，自汉已然，夏用船桥，冬藉冰冻，漂泊之惨，岁有所闻。……（铁桥建成）万民称便。将来经营西域，殆将于是赖焉。泰西自十九世纪以来，桥工日臻巧妙，远人贡技，成此巨观。黄河流域，此为创举，桥首丰碑，题曰‘第一桥',洵不虚也。”此文发表后，兰州黄河铁桥的建筑者成了一桩公案。
关于兰州黄河铁桥的建筑者，黄英在他的《兰州黄河铁桥赋》中说：“前清宣统元年，有比国工程师来游，愿贡技术。前制军升公吉甫，以铁桥巨工付之，委成于前兰州彭公丙康。议价十八万金，保险六十年。桥料购自比国，由欧北至郑州，载以汽船火车；郑州以西，至兰州二千数百里，车马输送，檄员督催。经纬万端，西人心折，口又十二万金有奇……路人告余曰：此铁桥也，比国工程师之所建筑，兰州政府之所荷担。”
黄英是四川人，清末任过皋兰县知县，是清末民初兰州文坛作家。他在兰州期间，正值辛亥革命之后。1912年秋，他与四川遂宁人李士章等发起组织甘肃共和党，其支部的正部长为张林焱，副部长为赖恩培。后因共和、统一、民主三党合并，该支部遂于1913年6月改为“甘肃进步党”.他作的《兰州黄河铁桥赋》名震一时，他发起组织的甘肃共和党支部副部长赖恩培又是协助彭英甲负责修建兰州黄河铁桥的助手之一，因此，他的说法似乎应当不是无稽之谈。
《兰州晚报》1999年5月6日发表了一篇由张兵、马永强撰稿的关于修建中山桥的文章。文章对中山桥的建筑者提出了疑问。文章说到：“前不久，从兰州赴比利时留学的王琦女士曾提起，有比利时人提起兰州黄河铁桥系比国人建造，并与王女士就此事争辩，因为此前王琦女士也只知道此桥是德国人建造的。看来，黄英文中所提比国人建筑之事，绝非空穴来风，是有一定根据的。杨忠先生对此认为：’若按此文《兰州黄河铁桥赋》所叙推断，清末驻天津的泰来洋行，大概是个跨国公司了，主要负责人虽为德国人，但铁桥的主要建筑者则为比国人。‘究竟孰是孰非，只有待后考证了。从《兰州黄河铁桥赋》中提到的几个数据看，黄英在写此文时，未曾看过修建铁桥的有关资料，记叙的内容来自”路人告余曰“,即道听途说。比如铁桥包修价、保固期、材料来源、资金来源等均与原始资料不符。彭英甲的《陇右纪实录》卷二十二《创修黄河铁桥》汇集有修建黄河铁桥的很多原始资料，其中有《会详呈赍遵饬议修兰州铁桥办法订立合同文》、《丈量过黄河浮桥各号船只深浅及桥板长短数目开具清折》、《兰州包修黄河铁桥合同底稿清折》、《护理陕甘总督部堂毛照会军机处电文》、《陕甘总督部堂长奏黄河铁桥工程完竣用过款项据实造报折》、《包修甘肃兰州黄河铁桥说明书》、《详明铁桥工竣价已交清并拟订岁修法程暨巡兵站岗车马行人往来条规请示立案文》等。上述资料原件大多尚存于甘肃省档案馆。彭英甲是经陕甘总督升允授权始终经理其事的总负责人，所汇集的资料均是原始资料，所以《陇右纪实录》关于修建黄河铁桥的记载是完全可信的。
据《陇右纪实录》和甘肃省档案馆所存原始资料的记载，包修价为十六万五千两，而不是十八万两，其他费用十四万两，而不是十二万两；合同保固期为八十年，而不是六十年；材料来源按合同规定由喀佑斯自德国购运。据兰州解放初期仍留存于中山桥上的一块铜牌上的记载来看，材料来自美国桥梁公司。目前所见到的资料中，没有一个提到建筑者是比利时人的。至于喀佑斯回德国购置材料时，是从德国购置，还是从比利时或者其他国家购置，或是在委托美国桥梁公司设计兰州黄河铁桥时将材料、设计一并委托，即包设计、包材料，均未见原始文字记载，也未见较有说服力的回忆文字。至于资金来源，各种原始资料均记载是由甘肃洋务局在统一税捐溢收项下列支。陕甘总部堂呈给朝廷的奏折上也说：所用银两”均由统捐总局如数拨发“,”伏乞皇上圣鉴饬部核销“.而不是黄英文中所说”兰州政府之所荷担“.
批准修建黄河铁桥并责成彭英甲”督办一切，始终其事“的陕甘总督升允，在铁桥建成时于宣统元年六月撰文书丹的《创建兰州黄河铁桥碑记》和《甘肃劝业道报告书》中所记内容与《陇右纪实录》完全一致。这些资料，或是给皇帝的奏章，或是给朝廷有关部门的报告，或是原始合同，或是当事人的撰文，其可信程度是无可怀疑的。上述提出的几个方面，黄英在《兰州黄河铁桥赋》中所记的都是错的。可见黄英在写这篇赋时，可能未看到《陇右纪实录》等资料，或许连立于中山桥北端西侧的升允撰文书丹的《创建兰州黄河铁桥碑记》也未认真读过，否则，不会把碑记中明确写出的造价数、保固期都弄错。
至于兰州黄河铁桥为比利时工程师建筑之说，只不过是”路人告余曰“的道听途说。修建铁桥的合同、陕甘总督给皇帝的奏折，均只提到德国泰来洋行驻天津经理喀佑斯、德商喀佑斯，从未提到过比利时人承修。升允的《创建兰州黄河铁桥碑记》更为具体地说：”承修者为美工程司满宝本、德人德罗、华工刘永起。“这三个人中，美国人满宝本是工程技术总负责人，这可能与桥梁的设计者是美国桥梁公司有关。德国人德罗也是工程师，负责工程进度统计等，是仅次于满宝本的工程技术负责人。刘永起是从天津招募来的华工，是现场施工负责人，是管理工人的工头，即现在的工地现场操作、工人调度等的负责人。喀佑斯是工程总承包人。工作分工是很明确的。至于像杨忠先生所推断的”清末驻天津的泰来洋行，大概是个跨国公司了，主要负责人虽为德国人，但铁桥的主要建筑者则为比国人“,这个推断有其可能的一面，如跨国公司之说；但是有不能令人信服的地方，如”主要建筑者则为比国人“.如果这一推断是真的，那么，升允的碑记就有问题。升允的碑记把组织施工，即承修的三个人均写入碑记中，”例得备书，因附名焉“,有美国人，有德国人，也有中国人，却只字未提到比利时人。升允的碑文是铁桥竣工时写的，承修的几个人，即使未到过现场，彭英甲也会将详细情况向他汇报，他不可能还不了解情况就提笔信手即写。何况，当时承修的施工现场上只有两个外国人，在当时的中国，外国人组织施工，是会引起各方面关注的，铁桥的批准者升允、总负责人彭英甲等，不会把比利时人误做美国人或德国人，更不会把这种常识性的错误写入碑记，立于桥头的。立碑时，彭英甲等人还在，他们肯定认真地读过碑文，但立碑后从无人提出异议，可见碑文是不错的。如果有比利时人，他也不是主要负责人，更不是承修者，有可能是助手之类的次要人物，故升允在碑文中不提。
关于施工负责人的问题，《兰州晚报》2003年1月发表了五张旧照片和马添翼、赵武明署名的两篇文章，一是《立照以证”铁桥“诞生过程》，一是《褪色的照片不褪色的”铁桥史“》。文章说，提供此组照片的杨开泰、杨玉珍兄妹介绍，这组照片是其母刘艳秋传给他们的。其母在世时，曾经为他们讲述过家史。上个世纪初，只有几岁的刘艳秋随伯父、父亲从天津来兰，从德国人手中承包了修建黄河铁桥的工程，后其伯父（人称刘大爷）在施工中不幸落水身亡，其父刘文魁（人称刘二爷，许多上岁数的老兰州应该对此人有印象）接手了工作。1909年铁桥修建完工后，刘文魁留在兰州担任铁桥管理员，负责工程保修工作。
30年的保修工作完成后，因抗日战争爆发，刘文魁无法返乡，于1940年在兰州病故。当时的甘肃省政府曾下文拨款予以抚恤。
对于刘永起，杨开泰、杨玉珍兄妹认为有可能是其外祖父名字之误，也有可能是其外祖父之兄。对于这个问题，兄妹俩希望有专家予以考证。
《兰州晚报》刊登的照片中，第一张是兰州黄河铁桥施工前的镇远浮桥，拍摄位置在黄河南岸；第二张是张大场景照片，照片中黄河南岸埽台之下搭着遮阳棚，棚下有很多人，棚外也有很多人，从照片看，如果该场景确是当时建桥的场景，那么棚下可能是建桥工人，棚外是外围的群众；第三张是第二张照片场景的局部--一顶遮阳棚和棚下的数十个人；第四张是正在修建的黄河铁桥桥墩，拍摄位置在黄河南岸；还有一张是合影，从背景中看不出什么，可能是建筑工人，但没有辫子，拍摄时间尚需推究。在第四张照片中，黄河铁桥桥墩已露出水面，有的基本完工，有的还在施工；其余几张照片从画面上似乎看不出与修建中山桥的直接联系。这五张照片也与承修铁桥的人是谁没有什么关系。
从文中所介绍的情况来看，承修桥梁的人究竟是谁，似乎是个疑案；实际上承修桥梁的人是早已明确了的，是满宝本、德罗、刘永起。升允的《创建兰州黄河铁桥碑记》明明白白地说：”承修者为美工程师满宝本、德人德罗、华工刘永起。“邢邦彦《清末黄河铁桥修建始末》说：”天津人刘永起是工程的实际负责人，当地人叫刘工头。还有从天津和上海招了十几名中国技术工人，并且还有兰州的泥水匠、铁匠、木匠等五六十人，最多时共有五百多人。桥修成后，留下刘永起管理铁桥。“《甘肃公路交通史》说：”修桥时的刘永起留下帮管铁桥，月饷银12两。“
对于刘永起，杨开泰、杨玉珍兄妹认为，有可能是其外祖父名字之误，也有可能是其外祖父之兄”的说法似乎也不大可能。如是其外祖父名字之误，那么，升允的《创建兰州黄河铁桥碑记》及石碑在宣统元年立于铁桥北端西侧，且与铁桥连为一体，是铁桥工程的一个组成部分。作为工地操作具体负责人，对于陕甘总督撰文所立之碑不可能不十分重视，不至于将自己的名字写错都不知道，何况铁桥修好后他又留下来管理桥务，几乎天天看到此碑。如“可能是其外祖父之兄”,即其母之伯父，也不可能。杨氏兄妹说，他们的母亲刘艳秋讲，“伯父（人称刘大爷）在施工中不幸落水身亡”,不可能在桥修成后又留下管理桥务。何况承修的三个人之一落水身亡，有关资料不可能只字不提。据此，我们认为，工地具体操作负责人是天津人刘永起，桥修成后留下帮管桥务的也是这个天津人刘永起。据《百年中山桥》
