在領導方法上，和陳雲都十分重視對歷史經驗教訓的總結；他們一起倡導提出了“從羣衆中來，到羣衆中去”黨的羣衆路線，關心羣衆疾苦
說過：“我是靠總結經驗吃飯的”。又說：“善於總結經驗，就是領導者的任務。”1956年9月，他在八大預備會議第二次全體會議上說：“我的那些文章，不經過北伐戰爭、土地革命和抗日戰爭，是不可能寫出來的，因爲沒有經驗。所以，那些失敗，那些挫折，給了我們很大的教育，沒有那些挫折，我們黨是不會被教育過來的。”1962年初，在七千人大會上，又說：“在民主革命時期，經過勝利、失敗，再勝利、再失敗，兩次比較，我們才認識了中國這個客觀世界。在抗日戰爭前夜和抗日戰爭時期，我寫了一些論文，例如《中國革命戰爭的戰略問題》、《論持久戰》、《新民主主義論》、《〈人〉發刊詞》，替中央起草過一些關於政策、策略的文件，都是革命經驗的總結。那些論文和文件，只有在那個時候才能產生出來，在以前不可能，因爲沒有經過大風大浪，沒有兩次勝利和兩次失敗的比較，還沒有充分的經驗，還不能充分認識中國革命的規律”。同樣，“對於社會主義建設，我們還缺乏經驗”，“還有很大的盲目性”，“還有許多未被認識的必然王國”。因此，這就必須“要準備着由於盲目性而遭受到許多的失敗和挫折，從而取得最後的勝利”。
1964年3月，在一次談話中又說：1921年建黨後，經過了14年，犧牲了多少黨員、幹部，吃了很多苦頭，才懂得了如何處理黨內關係、黨外關係，學會走羣衆路線。不經過那些鬥爭，我的那些文章也寫不出來。
陳雲也強調總結經驗的重要性。他曾指出，要把總結經驗列爲平時學習的重要內容。
當然，在實際工作中，光有經驗還是不夠的。如果只是一味地從經驗出發，就有可能陷入經驗主義和教條主義的泥淖。總結、吸取成功經驗，必須堅持實事求是的思想路線，按照實事求是的原則和要求去做。比如在抗日戰爭時期，就曾多次對陳雲說，光有經驗還不夠，還要學哲學，從思想方法上端正態度，找到認識和解決問題的正確方法，開創實際工作的新局面。
“一切爲了羣衆，一切依靠羣衆”，“從羣衆中來，到羣衆中去”，是黨的羣衆路線的基本內容。和陳雲反覆強調，一切工作的開展，都必須堅持羣衆路線。
在闡述的羣衆路線思想時說：“一切爲了羣衆的觀點，一切向人民羣衆負責的觀點，相信羣衆自己解放自己的觀點，一切向人民羣衆學習的觀點，這一切，就是我們的羣衆觀點。”也指出：“在我黨的一切實際工作中，凡屬正確的領導，必須是從羣衆中來，到羣衆中去。這就是說，將羣衆的意見（分散的無系統的意見）集中起來（經過研究，化爲集中的系統的意見），又到羣衆中去作宣傳解釋，化爲羣衆的意見，使羣衆堅持下去，見之於行動，並在羣衆行動中考驗這些意見是否正確。然後再從羣衆中集中起來，再到羣衆中堅持下去。如此無限循環，一次比一次地更正確、更生動、更豐富。”
陳雲也指出，解決羣衆切身問題的堅定不移、到處適應的辦法就是：“必須在羣衆中去討論，到羣衆中去找尋。因爲只有羣衆才真正瞭解他們自己的問題，只有在羣衆中才能討論出在當時當地解決問題最適當的辦法。我們的地方黨部，我們的區委和黨支部，只有收集了羣衆的意見，才能做出很好的決定，否則是不可能的。”“三個臭皮匠，湊成個諸葛亮”。離開羣衆，世上是沒有什麼諸葛亮的。
要能很好地領導羣衆，就必須贏得羣衆的信任；而要贏得羣衆的信任，就必須時刻關心他們的疾苦；要關心羣衆的疾苦，就必須時刻把他們的利益放在心上。
在第二次全國蘇維埃代表大會上，指出：“一切羣衆的實際生活問題，都是我們應該注意的重要問題。假如蘇維埃對這些問題注意了，解決了，滿足了羣衆的需要，我們就真正成了羣衆生活的組織者，羣衆就會真正地圍繞在我們的周圍，熱烈地擁護我們。”他還鄭重地向大會提出：“我們應該深刻地注意羣衆生活的問題，從土地、勞動問題，到財米油鹽問題。婦女羣衆要學習犁耙，找什麼人去教她們呢？小孩子要求讀書，小學辦起了沒有呢？對面的木橋太小會跌倒行人，要不要修一下呢？許多人生瘡害病，想個什麼辦法呢？一切羣衆生活上的問題，都應該把它提到自己的議事日程上。”
正是由於廣大黨員幹部在行動上，始終吃苦在前，享受在後，想羣衆之所想，急羣衆之所急，與老百姓同甘苦，共命運，所以才逐漸贏得了人民羣衆的信任。因此，儘管黨內的“左”右傾錯誤不斷髮生，但廣大羣衆卻還是願意服從黨的領導，跟着幹革命。
延安時期，陳雲在講黨的建設課時，也總是要向學員們強調，人必須時刻關心羣衆的疾苦，把羣衆的利益放在心上，要力爭給羣衆以看得見的利益。
1939年11月，陳雲發表了《開展羣衆工作是目前地方工作中的中心》一文。在這篇文章中，他指出：中國爲了能更好地擔負起領導責任，就必須大力開展羣衆工作；爲了開展羣衆工作，必須關心羣衆的切身利益。這就是說，要從維護羣衆自己的利益出發，從羣衆內部去發動羣衆鬥爭，把羣衆團體自下而上地建立起來。他說：爲羣衆自己利益而鬥爭的羣衆運動真正開展起來了，就能鑑別誰是混入黨內的壞人。這樣，清洗黨內壞分子的工作纔有客觀的基礎。只有羣衆運動，才能給新黨員和新干部以實際的階級教育，單單書本上的教育是非常不夠的。我們的新黨員和新干部缺乏羣衆工作經驗的弱點是普遍存在的，他們領導羣衆運動的經驗是很少的，但出路只有一條，就是在羣衆運動中鍛鍊和提高。他再次強調：我們是執政的黨，我們在這裡需要向羣衆要東西，另一方面他們也要向我們要東西。假如忘記了他們還需要向我們要東西，這是不成的。當權的黨容易只是向羣衆要，而忘卻了羣衆也要向我們要很多東西。越是對羣衆的問題注意得多，解決得多，羣衆對抗戰工作積極性就提得越高，我們的工作就容易進行。他又說：應該時刻注意爲羣衆謀福利。不論黨、政、軍、民衆團體都應該把改善羣衆生活的工作做好。哪個地方改善了一些民衆的生活，民衆就起來了，就更加積極了。他還指出：歷來的經驗證明，沒有一個脫離羣衆的黨組織是鞏固的。一切脫離羣衆的黨支部，都是最不鞏固的黨支部。所以，只有黨與羣衆密切聯繫着，只有黨的支部真正成爲羣衆的核心的時候，那個黨纔是一個鞏固的黨，那個支部纔是黨在羣衆中的堡壘。現在黨內發生的各種弱點，不管是黨組織方面的還是黨的工作方面的，都是同脫離羣衆相聯繫的。地方黨支部如果不關心羣衆生活，不爲羣衆切身利益而鬥爭，置羣衆痛癢於不顧而要羣衆熱烈起來，與黨與政府與軍隊一道艱苦奮鬥，這是不可能的。
陳雲指出：在陝甘寧地區，已經處於執政的地位，因此尤其要妥善處理好黨羣關係，爲人民服務。他說：我們是執政黨，掌握了政權以後，犯了錯誤直接嚴重地損害羣衆利益。黨員違反紀律特別容易引起羣衆不滿。所以一定要嚴格地要求我們黨員幹部經常傾聽羣衆意見，有了違背羣衆利益的事情就要給以嚴肅的批評以至紀律處分。對於違法的人，例如貪污分子，還要發動羣衆去鬥爭並繩之以法。執政黨脫離了羣衆，也就成了光桿司令，這樣的黨是沒有生命力的。
陳雲在領導工作中，關心羣衆具體要求和利益的事例是很多的，也爲人們起到了極好的表率作用。在“二五”計劃期間，中央考慮北方缺水，而長江水流量大，可以實施南水北調。陳雲對水利部和地方的領導人說：南水北調關係子孫後代，這個工程要搞，但什麼時候搞，走那條線，要慎重，一定要讓不贊成的人發表意見。爲了解除這些人的顧慮，他建議在東、中、西三線沿途各城市設南水北調問題的專用信箱，以便他們能把意見講出來。
三年困難時期，由於缺吃少穿，城鄉居民普遍營養不良，許多人患上了浮腫病或因此死去。陳雲瞭解到，每人每天最低需要蛋白質70克，0.5公斤糧食含45克，0.5公斤蔬菜含5克，尚缺少20克，正好相當於1兩大豆的含量。而我國那時有1億城市人口，每年拿出15億公斤大豆，是完全可以做到的。於是，他提出先在大中城市的6000萬人口中，每人每天供應1兩大豆，每月供應0.25公斤魚、0.25公斤肉。又說：人民羣衆要看對他們到底關心不關心，有沒有辦法解決生活問題。這是政治問題。
20世紀80年代初，有3件事突出地反映了陳雲時刻把羣衆的困難和疾苦放在心上，爲老百姓辦實事的作風。第一件是，1982年5月下旬的一天，陳雲在《人民日報》第8版的一角，看到有一篇題爲《首都少年兒童看戲難》的文章，反映北京兒童劇場頹危停用，首都百萬兒童無處看戲。他對秘書說：這篇文章是寫給中央領導同志看的，是搞教育的同志通過報紙在向我們呼籲。他們的意見是好的，應該支持一下。他隨即給中央和國務院領導寫了一封信，建議在“六一”兒童節這一天，全國城鎮所有影劇院，機關企業的所有禮堂，免費向孩子們開放。由於時間已臨近“六一”，他在信封上還親筆批寫了“特急件”3個字。
第二件是，這一年7月，北京航空學院一位教師給中央書記處研究室寫的信和全國政協關於知識分子政策落實調查組的報告，都反映中年知識分子生活、工作負擔重，工資收入低，很多人健康水平下降。陳雲看後十分重視，當即致信中央常委，指出：這是國家的一個大問題，確實要下大決心，在今明兩年內解決，不能再按部就班地搞。我們基本建設每年要用500多億元，爲什麼不可以用十幾億來解決他們的問題呢？改善他們的工作條件，應當看成是基本建設的一個項目，而且是基本的基本建設。我們把錢用在中年知識分子身上，是好鋼用在了刀刃上。
第三件是，1984年9月，陳雲得知報考師範院校的高中畢業生越來越少時，指示有關領導同志，一定要重視教師待遇問題。要想出一些切實可行的解決實際困難的有效辦法，如住房問題等，以逐步使教師工作真正成爲最受人尊敬、最值得羨慕的職業之一。不久，他又批示：要使中小學教師的工資標準“比同等學力從事其他行業的人略高一點”。