市舶司總署籌備開海的同時，海軍整編也在進行。當新的規定頒佈下來時，東海的首領們也是幾家歡樂幾家愁。
林碧川歸附李彥直後，心想自己靠了一棵大樹，以後再不用怕被朝廷追着打了。就是遇到其它的海上豪強，如陳思盼、於七等，他也覺得自己的身份比這些人高了一等。和許多的海賊一樣，林碧川一開始只是幻想着能儘量多地拿到好處，並沒打算放棄自己的自由去接受官府的拘束。由於沒有這種心理準備，所以林碧川很快就受到了沉重的心理打擊。
松江府一帶本是他的老家，崇明、小七島都曾是他的巢穴，聽說海軍都督府衙門設在了上海，他想靠着李彥直，以後在這裡就更能橫衝直撞了，沒想到實際的情況卻是：李彥直一到上海就下了嚴命，所有水師兵將到上海後不得允許不許上岸，登陸必須進港，水手要進城入村必須申請同意，進入市集之後不許犯法，不許擾民，不許強買強賣，否則就按軍法處置。
一羣自由慣了的人，忽然被這麼嚴厲的命令拘束住，大部分人都不習慣，林碧川也是。可是李彥直如今已是衆望所歸，別人要投靠他都煩惱沒門路呢，林碧川要放縱亂來，又怕李彥直的嚴令，要反出海軍都督府，卻又哪裡捨得？沒辦法，既有所得，必有所失，縱然不自由，也只好忍一忍了。
剛剛洗腳的海賊們覺得受了拘束，心中不樂，機兵們卻覺得這些海賊出身的傢伙缺乏紀律，雖然一時壓住，但若不加以整頓的話，只怕遲早要鬧出問題來。
“是時候整頓整頓他們了，都督。”張嶽建議說。
在天津時，李彥直已對水師的力量進行了第一輪的整頓，不過當時並未深入觸及到幾個大首領的利益。從天津到上海的這段時間裡，李彥直已將直系人馬滲入到水師各部去，陸上又已站穩了腳跟，短期之內不用擔心遭到南京方面的直接打擊，因此李彥直也覺得對水師進行再次整編的時機成熟了。
也就在這時，林碧川卻糾集了一批舶主、火長找到了李彥直反映意見，求他給水兵們鬆一鬆綁，不要管得他們那麼嚴厲。李彥直一聽不悅道：“不要管得那麼嚴？什麼意思？你們還想四處去劫掠不成？”
林碧川等訥訥無法應答，李彥直沉聲道：“你們歸附我也有幾個月了，怎麼到現在還犯糊塗？你們現在是兵了，還把自己當賊啊！人家改邪歸正，哪個不得脫三層皮的？你們倒好，順順利利地就由賊變兵，心裡卻還惦記着做賊時的日子。哼，朝廷招撫你們，給你們餉銀，是讓你們保護老百姓的，不是僱你們來騷擾老百姓的，你們當初既有心走正道，心裡就該有這個準備。若不想當兵而要做賊時，儘可學陳思盼、王直他們去。我這邊，容不得三心二意、立志不堅的人。”
如今李都督軍威好重，林碧川等聽得汗水涔涔連下，李彥直又道：“你們今天來說這事，也好，我正有些事情要與你們說，就乘機一併談了吧。”
原來他與張嶽商議過後，也給水師定下了三條章程——鑑於海軍都督府水師成分駁雜不純的現狀，李彥直決定將所有水師進行一次大整編，將籍貫、所屬全部打散，再選精汰劣，也就是說，要將林碧川、洪迪珍、徐元亮等人的部署全面打亂，然後再從中挑選精銳，重建水師。至於衆首腦則經過海軍都督府考察之後任命爲將。
這幾部收招撫的部隊，成員都是老於海戰的水手，將之打亂之後重新整合，所需時間不多，很快就能重整成一支水上精兵，但他們的統領者所受到的衝擊可就大了。
林碧川等嚇了一跳，心中便冒出了一個念頭：“姓李的要過河拆橋！他這樣做分明是要奪我們的兵權！”
李彥直覷見他們的神色，似乎就猜到了他們要說什麼，道：“你們是不是有什麼意見？有的話當面說，不要背後搞鬼。”
但這等話，當面如何說得出來？李彥直見他們不說，就自己開口：“你們是不是覺得我要奪你們的兵權？”
林碧川等心想你都這麼說了，就來個默認，李彥直眼睛從這些人臉上一一掠過，卻冷笑道：“我就算現在是要奪你們的兵權，你們能奈我何？”一句話把這些人說得都無語，是啊，李彥直現在別說要奪他們兵權，就算是要殺了他們，他們只怕也沒還手之力。
正當他們憤憤然之際，李彥直卻又說道：“我現在就是過河拆橋，你們也沒辦法，不過你們放心，我不是那樣的人。只是眼下你們各擁兵船，私味甚濃，作爲來歸之兵將，若不接受整編，那麼咱們之間便永遠都有賓主之分，永遠都不是自己人，你們在我的麾下，只怕也會過得不舒坦。但要是接受了整編，以後咱們就是自己人，只要你們有能耐，又能守朝廷的規矩，將來少不了做一員世襲的將領，福廕子孫——這不卻遠勝於眼前的少許自由？所以我提出這件事情，不但是爲大局着想，更是爲你們考慮。”
他先敲打，然後才和顏悅色地說出這番道理來，便有一半的人都聽進去並信服了，其他的人雖然心懷不滿，覺得李彥直只是說好聽話而已，可就如李彥直所說，事已至此，他們也沒有其它辦法了。
李彥直辨顏察色，知他們中間仍有少部分人不滿，便說道：“我看你們中間，怕還有人不服卻不敢言語吧？放心，我李三也不是無情無義的人，若你們實在不願接受整編，那麼我還有兩條路給你們走。”
Wωω ¤Tтkǎ n ¤￠O
便有城府不深的舶主趕緊問：“哪兩條？”卻有謹慎的偷瞥了那舶主一眼心想：“那當然是死路啦，你這出頭鳥要糟糕了。”
不料李彥直的回答卻沒那麼糟糕：“你們要想既像海賊一般自由野蠻，又像當兵一樣光明正大，那是不可能的。但你們若實在受不了水師章程的拘束，我還有兩個選擇給你們：第一，是轉爲海上武裝商隊，轉爲武裝商隊以後，考慮到你們以往的功勞，船引、貨引我會從優配給，但你們就要自負盈虧，國家不會再養你們。眼下東海不太平，我許你們保有一定的武裝，相應的，若有戰事時，要聽候海軍都督府的有償調遣。”
林碧川心道：“這個不錯。”就問：“什麼叫有償調遣？”
李彥直笑了笑，說：“海軍都督府調你們做事，不就耽誤了你們的生意了嘛？所以會給你們發些補償，這就叫有償調遣。”
衆將聽了連連點頭，都覺得這樣做很公平，跟着又問還有一條路是什麼。
“還有一條路嘛，就是繼續做強盜去。”
衆將聽了面面相覷，都勉強擠出笑容說：“都督開玩笑了。”
“我不是開玩笑。”李彥直道：“咱們現在是拉開天窗說亮話——我知道你們中間有些人賊性難改，當兵受不了拘束，做生意又不在行，勉強留下你們當兵或者讓你們去經商，那都是禍患。但咱們賓主一場，我也希望能好頭好尾，所以你們若真當不了兵經不了商，我許你們成立私掠艦隊，卻不準在近海爲禍百姓，否則我逮着一個殺一個，但你們要是給我遠遠跑到日本、南洋去，只要那些地方尚未奉我大明號令，那我也就管不着了。”
有一個獐頭鼠目的火長問：“那麼，假如我們去南洋搶了東西，還能回上海來嗎？”
李彥直笑道：“可以啊，你們若搶到了錢財，回上海來風流快活也行，不過回到老家就要好好守規矩了，要不然的話，仍然法辦。”這章程定下以後，他便揮手讓衆將回去好好考慮：“都給我回去想清楚，若要當兵，就要有能守紀律的決心。否則的話，就當海商或私掠者去，你們怎麼選擇我不管，但選定以後就再不許輕易更改了。去吧。”
他這麼一說，就相當於通報了全軍，哪用半日？徐元亮、洪迪珍便也都知道了，各自來問李彥直：“都督，對我們是否也要這樣處理？”他們與李彥直更加親密，所以敢來問這話。
李彥直卻道：“我處事向來一視同仁。”徐、洪便回去商議，徐元亮道：“我做生意普普通通，反正在都督手下聽命也不是第一次了，就留在水師當個將軍吧。”
洪迪珍卻顧念着自己的家產，他身家不小，又善於生息，再則想自己和李彥直是同鄉，這些年來在各種場合又總擁護着他，做了商人以後李彥直應該還會眷顧自己，就決定還做個商人去。林碧川也選了做個商人。
自他們三人以下，其他的火長、舶主、水手也各有選擇，最後還是有一大半的人決定留在海軍都督府衙門當兵吃長糧，剩下的大部分都重新做了武裝私商，並無人決定去做那沒譜的私掠艦隊。
兩日之間，海軍都督府衙門的兵員數量大減，不計後勤，只剩下兩萬二千餘人，然而兵員精簡之後，部隊的精神面貌反見提升。而且人員裁剪以後，後勤也大見輕鬆——從天津出發到現在，海軍都督府都是靠着積蓄過日子，至今尚未盈利呢。
洪迪珍轉爲商人以後心想：“眼下上海貨物大聚，買家卻都未到，王直、破山都在大員，不如我就買了貨物，趁機前往日本，一定能大賺一筆。”他本身便有積蓄，這次去北京也得到了不少好處，便到市集上大肆購買生絲——李彥直自己也沒料到，上海市舶司徵收到的第一筆較大的關稅，竟是從洪迪珍手中拿到。
做生意，就怕沒發過市，發過市以後，有一就有二，有二就有三。洪迪珍開了個頭以後，許多大小海商紛紛效仿，又有一批揚州的鹽商看看行情好，竟動用了手上龐大的閒散資金，居中搶購貨物，意在囤積居奇。有人買，有人賣，貨如輪轉，錢如水流，越轉越流，市面就越景氣。
大員海峽雖未打通，浙東尚未平定，佛郎機商人和回回商人尚未到來，上海的生意卻已經進入了一個小陽春。
這段時間來浙東海面前來投靠的海賊海商不計其數，海軍都督府的官吏也都只是羈縻着未給回覆，這時也按照這三套章程來進行選汰，將其中能守紀律的悍勇之輩選入軍中。至於那些沒能選上的，李彥直便將他們編爲私掠縱隊，共編爲五隊，準備擇日南下，先平浙東，再取雞籠。
上海兵船尚未動，大海賊鄧文俊就先來投降，李彥直嫌他賊性太重，不肯收他爲水師，鄧文俊也不太願意受軍法拘束，情願作私掠艦隊爲前鋒南下，只是求李彥直給他糧餉。李彥直便撥給了他一月之糧，算是買他所屬的二十三座島嶼，又囑咐他過大員海峽時不許侵擾兩岸百姓，“若你過了呂宋之後仍然老實，那我就送一份滿剌加以西、巴拉望以南的海圖給你，再發你一個特赦令，許你的船隊到任何港口停靠買糧。”