1952年，中央決定成立地質(zhì)部，部長由著名地質(zhì)學家李四光擔任。為保證李四光有一定時間從事科學研究，需要找一位閱歷豐富，同時又富有很強組織能力和管理經(jīng)驗的得力人才來支持地質(zhì)部的日常工作。這個人選就是何長工。

1952年9月，地質(zhì)部正式成立。何長工任副部長，后兼任部黨組書記。

當時地質(zhì)工作基礎(chǔ)極其薄弱，舊中國遺留下來的地質(zhì)專家只有200多人，到1952年6月底全國才開動鉆機40部。更主要的是，舊中國地質(zhì)工作程度很低，具有工業(yè)意義的地質(zhì)工作計劃沒有開展。

根據(jù)中央領(lǐng)導同志的指示，何長工斷然采取了非常規(guī)的、創(chuàng)新的辦法，抓地質(zhì)教育和培訓工作。1952年，為組建北京、長春兩所地質(zhì)學院，他從選校址、確定建校規(guī)模、調(diào)配師資力量、解決緊缺物資到聘請?zhí)K聯(lián)專家，乃至教育計劃實施都會同部教育司、學校討論。并親自奔走，爭取所在省、市以及中央有關(guān)部門的支持。一年之后，北京地質(zhì)學院和長春地質(zhì)學院教學樓拔地而起，1954年學生們已經(jīng)開始在新校舍上課了。從1952年秋始，全國各地先后籌辦地質(zhì)學院并陸續(xù)招生，地質(zhì)教育呈現(xiàn)出生機勃勃的景象。

1953年9月，何長工主持召開了第一屆全國地質(zhì)教育會議，修訂了各專業(yè)的教學計劃，初步確定了對教材問題的解決辦法，推動了地質(zhì)教育事業(yè)的健康發(fā)展。

如何建立中國的地質(zhì)裝備和儀器制造工業(yè)，滿足飛速發(fā)展的地質(zhì)事業(yè)的急需？何長工根據(jù)中國的實際，提出了“借雞生蛋”的辦法。1953年，他親自找鐵道部副部長呂正操商談，把張家口鐵路工廠一鍋地端過來，并親自指導工廠的擴建。1954年便建成了我國第一個地質(zhì)探礦裝備制造廠——張家口探礦機械廠，結(jié)束了我國沒有地質(zhì)勘察裝備專業(yè)生產(chǎn)廠的歷史。

從1955年到1966年，何長工繼續(xù)向兄弟部門和有關(guān)省市領(lǐng)導求援。在他們的大力支持下，第一個五年計劃末期，地質(zhì)部已擁有各類鉆機2199臺，是新中國成立初期的140多倍。此外，還擁有了磁力儀、重力儀、電法儀、地震儀、測井儀等先進地質(zhì)儀器。

地質(zhì)博物館、地質(zhì)資料館和地質(zhì)圖書館俗稱地質(zhì)“三館”，是地質(zhì)工作發(fā)展的標志。

由于當時館舍簡陋，地方狹窄，許多有價值的地質(zhì)資料和圖書未能保存下來，影響了地質(zhì)事業(yè)的發(fā)展。1956年，何長工把“三館”建設(shè)提上議事日程，一個宏大的、具有戰(zhàn)略意義的“三館”建設(shè)計劃開始實施。到20世紀50年代后期，“三館”大樓終于在北京繁華的鬧市建成。資料館和圖書館的建成，大大改善了地質(zhì)資料、圖書的保管與借閱條件。博物館收藏了豐富的國內(nèi)外各類地質(zhì)標本和各種圖表照片模型，為各方面的參觀學習研究提供了良好的環(huán)境?！叭^”對促進地質(zhì)事業(yè)的發(fā)展、加強國際合作交流起了重要的作用。

新中國成立初期，由于我國礦產(chǎn)資源“家底”不清，國家經(jīng)濟建設(shè)處于“等米下鍋”的狀態(tài)。毛澤東說：“地質(zhì)工作搞不好，一馬擋路，萬馬不能前行?！焙伍L工臨危受命，在黨中央和國務院直接領(lǐng)導下，全國廣大地質(zhì)工作者艱苦奮斗，不到4年時間使我國礦產(chǎn)資源“家底”不清的現(xiàn)象初步改觀。

1956年地質(zhì)部實際探明的30多種礦產(chǎn)的儲量，連同其他部門探明的儲量，不僅解決了鞍鋼、包鋼、武鋼等重要鋼鐵基地“一五”期間急需的礦產(chǎn)原料，而且保證了“二五”期間企業(yè)對礦產(chǎn)原料的新一輪需求。

1963年11月，周恩來總理向全世界宣告：“我國需要的石油，現(xiàn)在可以基本自給?！睆拇?，中國摘掉了貧油帽子，結(jié)束了依靠“洋油”過日子的時代。1957年底，地質(zhì)部黨組作出戰(zhàn)略東移的決策，何長工緊急部署，石油地質(zhì)大軍千里轉(zhuǎn)戰(zhàn)，揮師東進松遼平原。幾個月之后，松遼平原前線報捷；1960年地質(zhì)部石油地質(zhì)隊伍主力從松遼南下，以華北平原為重點開展石油普查工作。從1961年開始，地質(zhì)部以華北為重點，逐漸南移，有計劃、有步驟地開展各地區(qū)的工作。新中國誕生后，為打破帝國主義的核訛詐，加強國防建設(shè)，發(fā)展核工業(yè)，何長工要求各地質(zhì)局、野外地質(zhì)隊：“對于建立與發(fā)展尖端工業(yè)所必需的稀有金屬、分散和放射性元素等應廣泛開展工作?！睆?0世紀50年代末到60年代，地質(zhì)部的廣東七○五地質(zhì)隊勘探了南雄201礦、仁化211礦，四川四○五隊勘探了若爾蓋501礦等大型鈾礦床，取得了突出的成果，為國家核工業(yè)的發(fā)展，提供了鈾礦資源。

為了穩(wěn)定地質(zhì)隊伍，解決地質(zhì)工作者的戶口、糧食副食品供應、子女上學、就業(yè)、婚姻問題，何長工親自找地質(zhì)隊伍所在的省、市、自治區(qū)的負責同志陳述意見，爭取就地解決。當?shù)亟鉀Q不了的，便及時向中央、國務院報告，甚至找到周恩來總理那里爭取支持和解決。在何長工的悉心關(guān)注下，地質(zhì)部和各省區(qū)地質(zhì)局克服種種困難，逐步籌建了地質(zhì)職工療養(yǎng)院、地質(zhì)隊后方基地和地質(zhì)文工團等機構(gòu)。

何長工同李四光部長是工作上的搭檔，共事多年，他們坦誠相待，親密合作，成為在黨的領(lǐng)導下共產(chǎn)黨員與黨外人士合作的典范。

何長工在地質(zhì)部任職14年，從一個地質(zhì)外行成為地質(zhì)專家，新中國成立之初地質(zhì)事業(yè)所開創(chuàng)的每一項輝煌的業(yè)績，都與何長工分不開。何長工以自己的模范行動，實踐了自己為挽救和振興中華民族“扛一輩子長工”的夙愿。