日本在正式對德奧宣戰後，首先行動的不是陸軍而是海軍根據與協約國商定的分工，日本海軍將組織南遣艦隊，負責保障西太平洋航線的安全並奪取德國在赤道以北的全部島嶼，包括馬里亞納羣島，加羅林羣島，馬紹爾羣島，帛琉羣島以及太平洋海底電報的通信中心雅浦島。爲此，日本海軍組織了兩支南遣艦隊，第一南遣艦隊在9月12日便南下了。但兵力卻原遜於英法的期望，第一南遣艦隊由戰列巡洋艦鞍馬號爲旗艦，戰列巡洋艦筑波號、裝甲巡洋艦淺間號、第16驅逐艦隊（2艘驅逐艦）以及運輸艦南海丸、遠江丸組成。在日本發動對華戰爭時，第二南遣艦隊尚在編成中。
但日本海軍主力並未將肅清德國海外殖民地當做第一要務，主力投入到了侵華戰爭中。至9月15日中日談判尚未破裂之前，日本海軍已將主力編爲三個艦隊，其中第一艦隊由加藤友三郎中將指揮，負責黃海方面哨戒並保護通航。計有戰列艦2艘（攝津、安藝），輕巡洋艦2艘（笠置、音羽）以及5艘驅逐艦組成的三支驅逐艦隊。
第二艦隊負責青島攻略，由加藤定吉中將指揮，計有4艘戰列艦（周防、石見、河內、丹後），3艘裝甲巡洋艦（磐手、八雲、常磐）、2艘輕巡洋艦（千歲、千代田、）海防艦2艘（衝島、見島），水上飛機母艦若宮丸。驅逐艦8艘以及5艘大型運輸艦。
爲了遏制孱弱的中國海軍，日本還組織了第三艦隊，負責東中國海方面哨戒，任務是封鎖並相機殲滅以上海、廣州爲基地的中國海軍，該艦隊由土屋光吉少將指揮，編有戰列艦2艘（攝津、石見）戰列巡洋艦2艘（金剛、比睿），輕巡洋艦3艘（新高、秋津州、利根），海防艦春日、日進，以及9艘驅逐艦和5艘炮艦。
相比於陸軍，日本根本沒有將中國海軍放在眼裡。的確。比起亞洲第一、世界第四的日本海軍。中國海軍實在是太弱小了。
以日本海軍的實力，完全可以攻入長江進入中國腹地。根據日本掌握的情報，中國在吳淞口及長江沿岸並未修築大型江防炮臺，但海軍軍令部給第三艦隊的兵力卻僅夠封鎖上海中國海軍。這就有些意思了。俄國對日本的海上威脅已經解除。日本在西太平洋幾無敵手。如果徹底消滅中國那幾萬噸軍艦，有什麼必要組建以哨戒黃海保證通航的第一艦隊？海軍是進攻型軍種，被動防禦註定要吃敗仗的。日本人這樣排兵佈陣。既有外部的因素，更主要的是內部因素。
外部原因之一是因爲英法強烈禁止日本攻入長江進入中國腹地以挑起與中國的全面戰爭。英法擔心中國做出過激的反應，就此將中國逼入同盟國陣營，青島之戰後這種情緒尤爲強烈。內部因素呢，日本並不準備與中國全面開戰，既因財政之困擾，拿不出錢來打一場滅國之戰，也因爲沒有把握。更重要的是他們獲知了中國海軍擁有兩個潛艇編隊，擁有20艘以上的進口潛艇，軍令部擔心艦隊的反潛能力不足，如果被中國潛艇擊沉大型軍艦就是笑話了，所以才編組了以護航爲目的的第一艦隊和以封鎖爲目的的第三艦隊。日本對中國的海上戰略就是封鎖，將中國海軍堵在港口內就行。
跟陣容豪華的日本海軍相比，中國海軍就很寒酸了。有些乞丐跟龍王鬥寶的感覺。
新中華成立後，全面接管了滿清留下的海軍遺產，海軍以上海、福建、廣東爲三大基地，對於渤海灣和黃海反而放棄了。這是無奈之舉。山東擁有漫長的海岸線，但由於德國和英國艦隊的存在，幾無中國海軍的立足之地，渤海灣自旅順丟失後，這片中國內海反而沒有中國海軍的活動空間。於是將基地設於南方，緩慢地積蓄力量，以待時機。
龍謙定都北京的第二個月便組建了海軍司令部，以他老資格的總參謀長、山東軍司令官方時俊出任海軍總司令。龍謙爲海軍發展確定了“培養人才、積蓄力量、等待時機”十二字方針。確定國防建設的重點在陸不在海，至少在十年內，國家不會爲海軍建設花大錢。
方時俊正確地理解了龍謙的意圖。沒有跟陸軍建設爭資源，而是積極落實龍謙的十二字方針，一方面蒐羅人才，請出了薩鎮冰、嚴復、載澤等海軍耆宿，組建了福州海軍軍官學校和上海海軍技術研究院，請來了美國海軍退役及現役軍官充任教官以培養海軍人才並展開海軍兵器研究。一方面整頓現有力量，組建了東海、南海兩支艦隊以培訓官兵。第三就是大力扶持造船工業，爲海軍騰飛打下基礎。
這個過程中方時俊最展現自己能力的就是蒐羅人才。不惜降尊紆貴請出了薩鎮冰、嚴復等人。進而通過他們將滿清培養的海軍人才“一網打盡”，全部吸納至新中華海軍中。然後又大力招收回國效力的華僑加盟海軍，最後則是花大錢聘卿美、德等國的海軍教官及技術人才，費盡心力地搭起了海軍的架子。
方時俊總理1910年出訪美國時，撿起了滿清與美國簽署的海軍一攬子協定，這是美國樂於達成的。但中方修改了原協定的內容，大幅度減少了水面艦只的購置，特別是巡洋艦和驅逐艦的購置，轉而購買造船設備，擴充了江南造船廠，添置了大型船塢，並與美國聯合成立了美中太平洋航運公司以擴大中美航運能力。當然也買了幾艘美國的戰艦以滿足美國人的要求。至1914年夏，中國海軍兩支艦隊的水面艦只共有巡洋艦7艘。驅逐艦7艘，炮艦11艘，總噸位不足5萬噸，其中大半兵力被置於環境相對安全的南海艦隊。
至1914年夏，海軍總兵力超過了兩萬人。值得一提的是，海軍兵員不是來自於陸軍，而是招收自大中學畢業生。海軍軍官（除了幾位耆宿），全部來自福州海軍學院（最初學制兩年，1913年起延長至3年）及留美、留德的學員。海軍中來自陸軍的軍官（包括海軍司令部各級參謀）極少，完全不成比例。這個情況使得海軍徹底脫離了陸軍。成爲了一支觀念、思維都與陸軍有着極大差別的軍種。到了1914年。陸海兩軍的不同風格已經展現，比如陸軍官兵抽菸的居多，而海軍官兵則基本沒有吸菸着，比如海軍軍官通一門外語的比例很高。但陸軍則很少。導致一些蒙山軍高級將領譏笑海軍爲假洋鬼子。當時。沒有任何人意識到海軍擺脫陸軍自行發展的意義。直到建國二十餘年後，海軍已經發展爲一支不容陸軍小覷的大軍種，海軍纔在國家大政上發出越來越強烈的聲音。
方時俊並非故意走上“獨立”於陸軍之外的道路。一方面是因爲龍謙要求他立足自身培養人才。另一方面是陸軍軍官基本不願意去海軍，就連他司令部的組建都費了很大力氣。
龍謙雖然確定了先陸後海的原則，但對於海軍的投入還是逐年增加的，加上美國的專項貸款，建國五年來對於海軍的投入接近了滿清打造北洋艦隊的總量。這些錢卻大部花在了潛艇購買和製造上。
1911年春，中德簽訂了海軍合作秘密協議，除了購買德國2艘最新的u型潛艇外，還委託德國製造4艘同型潛艇併購買了全套圖紙，拉開了海軍潛艇發展的大幕。以後三年間，購買德國潛艇的數量逐年增加，累計達22艘之多。不僅如此，德國還在1912年轉讓了一座潛艇工廠和全套的魚雷技術，中國在南昌建立了魚雷工廠，可以在德國工程師的指導下在本土建造遠洋潛艇及潛艇的主要武器魚雷。
就潛艇技術而言，德國領先全球，所以中國瞄準了德國而不是美國。1912年底，上海海軍技術研究院在德國專家的幫助下設計了一款大型潛艇，這艘潛艇是在德國u型攻擊型潛艇基礎上改進的，大的結構沒有改變，但噸位及全艇尺寸增加了。定員32人，柴油動力，水面1700馬力，水下1200馬力，水下排水量達到900噸，吃水3。65米，全高8。25米，航速水面15節，水下9節，潛深達到50米，最大的變化是取消了德國潛艇裝備的105mm艦炮，使得該型潛艇的武備只剩了魚雷。可攜帶16枚魚雷，共有4具魚雷發射管（前2後2）。
這款被命名爲劍魚級潛艇是共和國第一艘有着自己設計思想的遠洋潛艇，對德國潛艇思維有了革新。獲得了德國潛艇專家的肯定，德國專家對中國人取消火炮的思維認爲是一次革命性顛覆，將引發潛艇戰術的巨大改變。建議德國海軍也仿效中國取消火炮那個基本不發揮作用的雞肋，專心發展魚雷攻擊戰術。
雖然潛艇發展取得很不錯的成績，但當時在海軍霸主英國的影響下，大炮鉅艦主義盛行，各海軍強國專心發展新一代戰列艦，認爲戰列艦纔是決定海戰勝負的關鍵。對於潛艇這種新玩意，除了受到英國強力打壓的德國，包括日本在內，都不太重視。
中國海軍另闢蹊徑的戰略思路受到了海軍內部的質疑。隨着國力的復甦，海軍要求添置大型戰艦的呼聲也出現了。1913年春節，南海艦隊司令官薩鎮冰海軍中將致信龍謙，請求購置兩艘戰列艦以壯聲勢。爲此，國防部在上海召開了絕密的海軍發展研討會，龍謙在會上拋出了令海軍耆宿們難以接受的“戰列艦”無用論。
“我可以大膽預言，戰列艦這種海上霸王很快就會退出歷史舞臺了。隨着航空技術的發展，海軍將呈現與現在完全不同的格局。與其花大錢去打造大型的海上棺材，還不如一開始就走正確的道路。海軍的發展要抓兩頭，促中間。什麼是兩頭？潛艇和飛機，中間當然是水面艦只了。不要戰列艦不等於不要水面艦只，驅逐艦，巡洋艦，運輸艦還是要的，但要服從於飛機和潛艇。你們要相信，我所規劃的海軍發展道路會得到證明的。”龍謙在1913年春在海軍總司令部召開的海軍發展研討會上這樣講。
“飛機？飛機能對付戰列艦？”沒有人相信只能攜帶五公斤炸彈，航程極短的飛機會威脅到戰列艦的生存。這不是開玩笑嗎？
“誰說飛機只能帶五公斤炸彈？”龍謙反問，“如果飛機可以攜帶250公斤的巨型炸彈呢？如果飛機的航程提高到一千公里甚至更長呢？諸位海軍同仁們，請你們記住一句話，‘技術決定戰術’，每一種新技術的出現將改變現有的戰術，這就是我格外重視海軍研究院的緣故。戰列艦我們不搞，現在不搞，將來也不搞。你們算過沒有，一艘戰列艦可以換多少架飛機？多少艘潛艇？我們還很窮，陸軍在換裝，航空兵在發展，海軍也要跟上來。以我們的國力和技術底子，跟在別人後面永遠落後，但我們可以在新領域當領頭羊，這個新領域，一是飛機，二是潛艇。等我們證明飛機和潛艇威力的時候，那些大力建造無畏艦的海軍強國就會後悔到死！”
龍謙的巨大權力決定了海軍只能按着他的步調走。幾年來，水面艦只增加緩慢，但潛艇部隊卻初具規模，海軍組建了獨立的潛艇司令部，下轄兩支潛艇戰隊，在崇明島和舟山羣島建造了潛艇基地，1914年夏，可以用於海戰的潛艇總數達到20艘，其中2艘是自行建造的劍魚級攻擊潛艇。
潛艇的作用在1914年春海軍在南海舉行的小規模演習中得到了證明，從舟山出發的4艘潛艇（其中1艘劍魚級）秘密穿越臺灣海峽準時抵達演習區域，靠近南海艦隊的旗艦海雄號巡洋艦300米未被發覺。如果是實戰，海雄號可能已經沉沒了。而在隨後的實彈射擊中，薩鎮冰親眼目睹了潛艇實施的魚雷攻擊靶船的過程，感到十分震驚。在反潛技術還未成形的當時，潛艇就是來去無蹤的幽靈殺手，對付巨無霸戰列艦似乎力不從心，但如果攻擊小噸位的驅逐艦或者運輸艦，一條魚雷就可以將目標艦送入海底！
對於即將爆發的中日戰爭，海軍司令部根據總參的總體戰略制定了自己的作戰計劃。必須說明的是，總參謀部正確地預料到了日本海軍的作戰思維，預料到日本海軍將採取封鎖戰略堵死中國海軍的出口，因此協助海軍針對性地制定了避開日本海軍主力、以襲擊其運兵船和運輸艦爲主要目的的作戰方案。這個方案下，潛艇部隊將擔負主要的作戰任務，制定了東海兩大潛艇基地被日軍摧毀後的備用方案。方時俊總司令面對海軍強烈求戰的情緒，強調海軍實力尚不足於正面迎戰日本海軍，“我們不做傻瓜。這不是怯弱，而是審時度勢。保留火種以待時間是正確的方針，業已得到總統的批准。陸軍不會責難我們的，我向你們保證。”