1949年9月，為了紀念自1840年以來，為反對內外敵人，爭取民族獨立和人民自由幸福，在歷次人民解放戰爭和人民革命中犧牲的人民英雄，中國人民政治協商會議第一屆全體會議決定修建一座紀念碑。
首先是確定人民紀念碑的修建地點。在會上，有的委員提議將紀念碑建在東單廣場，有人主張建在西郊八寶山。最后，委員們一致通過了把紀念碑修建在天安門廣場上的方案。天安門廣場有“五四”以來的革命傳統，在這里修建紀念碑，也方便全國和全世界人民前來瞻仰。
方案確定下來后，1949年9月30日下午6點，第一屆人民政治協商會議的全體代表在天安門廣場舉行了莊嚴的紀念碑奠基典禮。
隨后，中央及地方共17個單位組成了人民英雄紀念碑興建委員會，做的第一件工作就是確定紀念碑的整體設計方案。
興建委員會花了一年多時間，面向全國征集意見，收到140多套設計方案，包括亭、臺、堂、碑等各種樣式。最后，紀念碑修建方案的爭議焦點集中在碑身究竟是建成低矮分散型還是高大集中型上。大多數人認為，紀念碑要歌頌人民英雄的崇高形象，表現人民英雄的偉大功績，低矮分散型的方案不可取。但怎樣把紀念碑修建得巍峨雄偉，讓社會各界都滿意，成了擺在興建委員會面前的一大難題。
1950年，陳志德從美國伊利諾伊州立大學畢業回國。陳志德1917年生于江蘇常州，因學習成績優異，到美國伊利諾伊州立大學留學深造，獲得土木工程碩士學位，回國后被安排到北京市建設局工作。他做的設計方案，屢次有突出表現。1951年國慶節被人民英雄紀念碑興建委員會的工作人員邀請到天安門廣場，看到了最后遴選出的3個木制紀念碑模型：一個是形狀酷似3個門洞的城臺，上有高碑；一個是坡頂形狀的紀念碑；另外一個是群像雕塑形狀的紀念碑。
陳志德看完后，搖了搖頭，說：“這3座紀念碑模型，雖然都還可以，但是缺乏高大挺拔、氣勢恢宏的表達內涵!”
陳志德的意見受到了興建委員會的高度重視。興建委員會經過最終討論、修改，終于敲定了和后來我們看到的紀念碑相似的碑身設計方案。
接下來，興建委員會成立了施工組，陳志德調任組長。
1952年8月，修建人民英雄紀念碑的工程正式啟動。
嶗山開采碑心石
陳志德仔細研究完圖紙，兩條濃密的眉毛，不由得皺到了一起。按照設計方案，“人民英雄永垂不朽”8個大字要刻在一塊長約15米、寬3米、厚約0.6米的整塊碑心石上。為了保證碑心石不折斷，開采石料的毛坯厚度必須達到3米，這就意味著這塊巨大的毛坯石料將重達300噸以上。到哪里去開采如此巨大的石塊陳志德遇到了第一只“攔路虎”。
陳志德來到北京圖書館，經過十幾天時間翻閱資料，掌握了全國各大山脈的巖石情況。他把采石地點確定在了嶗山。山東青島的嶗山素有“海上第一名山”之稱，該山最西端的山峰叫浮山，浮山共有9座山峰，被文人騷客稱為“浮山九點”，是游人到嶗山必看的一處風景名勝。
陳志德領著幾名助手，連夜坐火車直奔青島。經過實地勘察，最終確定浮山的石頭質地均勻、耐風化，從這里開采的石料完全可以做紀念碑的碑心石。采石地點被圈定在浮山大金頂。
為了完整開采出一塊300噸的石材胚料，十幾名技術工人從南京、上海等地趕到浮山。技術工人們也沒有開采如此巨大石料的經驗，提出的幾個開采方案都被陳志德否定了。眼看著時間一天天過去，陳志德著急上火，左邊嘴角起了一溜泡。
幾名從當地雇來的石工見陳志德著急，悄悄把他拉到一邊說：“嶗山腳下有個村子叫清石峪，村子里住著一位叫李開山的老石工，被人稱為石神。您還是把他請來想想辦法吧I”
李開山的石匠手藝是祖傳的，他爺爺當石匠時，曾幫國民黨政府在嶗山采過幾次大石。當年鑿山采石時，李開山雖然是個孩子，可他爺爺采石的過程，他都記憶猶新。首先選擇一大塊平整的山巖，然后在上面畫出所采的石料大小，沿著采切線，用一排排的鋼楔子同步釘進巖體，隨著鋼鑿子的一點點進入，所采巨石就和巖體徹底分離了。
陳志德把李開山請到采石現場，李開山一聽陳志德的要求，倒吸了一口涼氣，300噸重的巨石，根本就不是幾排鋼楔子能搞定的。李開山決定用放悶炮的方法，炸出這塊巨石胚材。
李開山選定了一處平整的石壁，在上面用黑炭筆畫出一塊長15米、寬3米的待采石胚，沿著長方形石材的四條邊緣線，鑿了40多個炮眼。
李開山親自往炮眼里添裝炸藥，炸藥分量得控制精準，多了可能炸壞石胚，少了又無法使石胚與巖壁分離。炸藥添裝完畢，隨著“轟轟轟”一陣沉悶的爆炸聲，那塊巨石的兩個邊緣被炸出了裂隙，另外兩邊卻沒有裂開的痕跡。陳志德焦急地問李開山：“怎么辦”
“放悶炮的方法只能用一次，再用恐怕就要損傷石料了!”李開山說，“石料的另外兩個邊雖然沒被炸出裂隙，可是經過炮震，再用鋼楔子釘進去就容易多了!”
接下來，石工們齊上陣，將100把鋼楔子砸進石料未開裂的兩邊。石工們費了九牛二虎之力，石料還是沒有從巖體分離出來的意思。
陳志德急得連連擦汗，李開山也有點沉不住氣了，盯著面前的石料，大聲對石工們叫道：“沿著石料的邊緣再開兩道石槽，然后把千斤頂放進石槽，施加頂力，我就不信不能把石料從巖體上剝離出來!”
又忙碌了半天，兩道石槽終于開鑿出來了。在石槽內放置8個承重200噸的千斤頂，隨著不斷施加頂力，只聽到“咔嚓咔嚓”幾聲，巨大的碑心石胚體終于完整地從山巖上剝離出來了。
巨石“進京”
碑心石成功地從巖體上剝離后，一個更大的難題擺在陳志德面前：怎么把這塊巨石運到火車站
浮山距離青島火車站約30公里，沿途大部分是連綿丘陵。如果從采石場臨時修一條重軌鐵路直達車站，造價可不小。李開山最后給出了一個運輸辦法：滾杠。
滾杠首先要在路面上鋪設枕木，接著在枕木上擺一排圓木，再把巨石放到圓木上，只要在石料后面施加推力，大石料就會慢慢挪動了。
陳志德覺得這個辦法可行，經過集體討論，最后決定為了保險起見，不用圓木，改用鞍山鋼鐵廠生產的無縫鋼管初坯。從鞍山調來的鋼管被放在枕木上做滾木，巨石放到鋼管初坯上。石料前面系著鋼絲繩，鋼絲繩在3臺進口大馬力拖拉機的牽引下，石料終于一點一點地向山腳滾移下去。
青島市政府為支援紀念碑的修建工作，從全市七八家國營工程隊中抽調精干力量，組成突擊隊，擔任沿途清障、加固橋梁等工作。從浮山到青島火車站，30公里路程，運石隊伍整整走了34天。
青島鐵路部門為了把石料安全運抵北京，特地從東北小豐滿水電站調來全國唯一一節能夠承載90噸重量的車皮。可是石料的自重還是遠遠超過了車皮的載重。陳志德指揮石匠，在車站站臺上現場對石料進行減重，最終把它裝上了火車。
1953年10月13日，北京西直門火車站鞭炮齊鳴，掛著專列牌子的火車載著這塊碑心石，緩緩駛進車站。
碑心石運抵天安門廣場后，施工隊按照原來的設計方案，立即對其進行成形前的精加工。碑心石經過雕琢，“瘦身”到了60噸，紀念碑碑身的鋼筋混凝土結構施工也基本完成，施工組突然接到興建委員會的通知，要將整個碑面調轉180度。按照中國建筑物大多坐北朝南的傳統，人民英雄紀念碑最初的設計圖紙中是讓“人民英雄永垂不朽”的碑面朝向正南方。但后來發現很多重大群眾活動都集中在天安門與紀念碑之間的廣場上，為了方便群眾瞻仰，碑身正面朝北才更具實用價值。碑面調轉180度，紀念碑就剛好與天安門“面對面”了，建議一經提出，立刻得到中央領導及專家們的同意。
陳志德指揮的施工組急忙對碑心石做了南北對調的準備。所幸的是，紀念碑的結構是南北對稱，碑心石即使換了方向，施工進度也不會受到影響。
隨著紀念碑修建速度的加快，又一個難題出現了：怎么才能安全地把60噸重的碑心石吊起20多米，再平穩地安裝到混凝土碑身上
為了做到萬無一失，興建委員會再次面向社會廣泛征求吊裝意見。北京市的一個老木匠出了個主意，用古代寺廟吊掛大鐘的辦法，先在廣場上堆起20多米高的一個傾斜土坡，將碑心石沿著斜坡，一點一點地拉到紀念碑主體上再進行安裝。
陳志德經過周密計算發現，僅有60厘米厚的碑心石，傾斜到一定程度，如果禁不住自身重量，可能會從中折斷。興建委員會只得放棄了這個方案。
這時，首鋼方面打來電話，說他們那里有兩臺德國進口的桅桿式起重機，可以支援碑心石的吊裝工作。可是兩臺起重機總共只有3 0噸，無法完成60噸碑心石的吊裝任務。
經過多位國內專家的周密論證，給施工組提供了一個安裝方案，利用滑輪原理，將紀念碑的混凝土碑身作為起重支柱吊裝碑心石。吊裝的同時，在碑身兩旁各立一個高吊桿，以調整石料吊裝過程中的搖擺及平正。
紀念碑修建成功
陳志德得到第3套吊裝方案后，為保險起見，先叫施工組用相同石料，建造了一個小型碑心石和碑體。經過多次磨合實驗，確保方案萬無一失后，才開始正式吊裝。
正式吊裝那天，茅以升、劉開渠、梁恩成、林徽因、范文瀾、鄭振鐸等100多位各界專家、領導一大早就聚集在天安門廣場上。上午8點半，陳志德吹響口中的哨子，下達吊裝命令，紀念碑混凝土的碑頂傳來滑輪組的“吱吱”轉動聲，碑心石被鋼絲繩緩緩吊起，現場觀看的人群頓時安靜下來。
陳志德手拿紅旗，在吊裝現場指揮。隨著碑心石被一點點吊起，天安門廣場上竟刮起了西北風，陳志德急忙命令旁邊那兩架高吊桿操作手注意風向，一定要穩穩地控制住已經吊起的碑心石，絕對不能讓它在空中搖擺不定。經過小心翼翼的操作，直到下午兩點左右，碑心石才準確就位。穩穩地立在紀念碑正北面的碑心石巢內。
幾掛早就準備好的爆竹被點燃，發出“噼里啪啦”的響聲，人群中發出一陣歡呼，震耳欲聾的鑼鼓隨即響起。陳志德激動得“唰”地流下了眼淚。
“人民英雄永垂不朽”的題詞是毛澤東親筆書寫的，把這8個大字刻到堅硬的花崗巖石碑上可不是一件容易的事兒。這項任務落到了琉璃廠“萃文閣”店主、著名書法家、雕刻家魏長青肩上。
“人民英雄永垂不朽”8個字寫在信紙上，每個字只有兩寸左右見方。要把這些字雕刻到碑心石上，首先要放大20倍，其中一個“永”字就有兩米多高。總參謀部測繪局1205工廠的周永興等人用幻燈機投影儀將字放大，然后按照光影把字描下來，經過幾天幾夜的奮戰，周永興等人終于完成了題詞放大的任務。
魏長青在往花崗石上雕刻這8個大字時也遇到了困難：碑心石又硬又脆，不受刀鑿，一刻就火星亂冒。為了趕進度，陳志德和魏長青經過研究，決定把膠皮覆蓋在碑體上，再把需要鐫刻部位的膠皮挖下去，形成“陰文”輪廓，再利用高壓水槍，通過噴射礦砂的方法，在碑心石上“刻”出一個個邊緣整齊的大字。然后以紫銅為胎，采用我國傳統的鎦金工藝，做成金字鑲嵌進去，保證文字300年不變色。碑題、碑文共用黃金130兩。后來，人民英雄紀念碑興建委員會做了工程總決算，紀念碑的建造總計花費約40.5萬元。
1958年五一國際勞動節這天，紀念碑碑身上的紅色大幕被揭開，雄偉壯麗的人民英雄紀念碑終于正式落成。數萬人涌向天安門城樓歡呼，廣場上放飛了無數和平鴿。
