爲尊重孫先生的遺願，孫科等人組成的孫先生葬事籌備處實地察看，選好陵址，劃地2000畝修墓，又登報懸獎，徵集陵墓設計方
案。在衆多應徵者中，青年建築師呂彥直設計的鐘形圖案被一致評爲首獎，他本人也被聘主持全部工程。1926年3月12日孫先生逝世一週年之際，舉行了奠基典禮。歷時3年多，耗資150萬銀元，中山陵終於在1929年春竣工。令人惋惜的是，留學美國、才華橫溢的青年建築師呂彥直在主持建陵過程中，嘔心瀝血，鞠躬盡瘁，不幸與孫先生一樣身患肝癌，在工程臨近尾聲時病逝，年僅35歲。
中山陵的建造可以說是南京城建設史上的一件大事。當年爲了迎接孫先生靈樞，南京修築了第一條柏油馬路一中山路。該路西起中山碼頭，東至中山門，長達12公里。直到今天，中山路依然是南京最主要的交通幹道之。同時改造翻修了明代城門朝陽門，並改名爲中山門。在中山門到中山陵之間還修築了一條陵園路。
出中山門，沿陵園路行駛，終點便是中山陵前的半月形廣場。廣場正南是一座八角形石臺。臺上那尊雙耳三足的紫銅寶鼎，重5000公斤，高4點25米，腹徑1點23米，是中山陵紀念性裝飾之一。此鼎鑄於1933年秋，由廣州中山大學全體師生和戴季陶捐贈。鼎一面鑄有“智、仁、勇”三個字，是中山大學校訓。鼎內豎有一塊六角形銅牌，上刻戴母手書《孝經》全文。
由廣場踏階而上，迎面是一座四楹三闕門的沖天式石牌坊。這座牌坊建於19311933年，高12米，寬17點3米。建坊用的都是大塊福建花崗岩，但採用的卻是中國傳統木結構形式。坊額正中是金光閃閃的“博愛”兩字。這兩個字是孫先生的手跡，原出自唐韓愈《原道》“博愛之爲仁”一語。據說孫先生生前最愛題這兩字送人。孫先生畢生以偉大的博愛精神致力於民主革命，爲民族的獨立自由奮鬥不息，可以說“博愛”ニ字正是對他一生的高度概括和最好寫照。
由博愛坊向前走，是一段長480米，寬十多米的墓道。中山陵的整體設計，突出中國的傳統風格，莊嚴肅穆，獨具特色。爲了體現孫先生的崇高偉大，中山陵沿用了古代依山爲陵的慣例，將墓室築於海拔約160米的全陵最高處。此外，整個陵區的建築植被中軸對稱，更給人以法度莊嚴之感。朝北順坡而上，依次有陵門、碑亭、祭堂和祭堂後的墓室等建築。而墓道兩邊的雪松、檜柏、銀杏、紅楓兩兩相對，代替了古代慣用的石人石獸，象徵着孫先生的革命精神和高尚品質。
墓道盡頭是平臺。整個陵墓平面爲“木鐸”形。鐸，就是平常我們說的大鈴擋。在古代它是用來宣佈政教法令和戰爭令的。鐸的聲音宏亮，而且傳得很遠，有“使天下皆達道”的喻義。陵墓選用這樣一個圖式，讓人不禁想起孫先生“革命尚未成功，同志仍需努力”的名言，其用意也正在警示後人。