在李看来，军力是关系到“立国之根基，驭夷之枢纽。今昔情势不同，决不可狃于祖宗成法”。陆军方面，他感到老弱必须裁汰，粮饷必须充裕，操练必须严格，绿营分汛必须重组和加强，然后绿营方可恃。至于海军，所有旧式船只必须更换。不仅如此，中国必须有近代船厂，并向外国人购买造船机器。必须先造轮船，“次及巨炮兵船，然后水路方为可恃”。

从以上资料中，我们可以看到李鸿章对于中国建立新式的陆军和海军，已有一个具体的构想。他关于中国海军的想法，包括改革绿营水师、采用西式装备、设立能够生产近代船炮的造船厂和兵工厂。李的思想和魏源“师夷之长技以制夷”的思想如出一辙。福州船厂和江南制造局随后也在李的支持下得以维持。他在1860年代和1870年代近代化努力中的功劳值得赞赏.

为了达成自己的目标，李鸿章找到了英国人琅威理。琅威理毕业于皇家海军学院，曾任英国海军舰长。他是一个热情负责、阅历丰富的军官。他很自然地成为北洋舰队总查的首选人物，于1882年和1885年两度受聘担任这个职务，供职共计6年。北洋海军在他的精心计划和指导下，取得重大进步，并且受到国内外的密切注意。

1890年在著名的“升旗之争”事件中，他受到一些中国军官排挤，不得不离开北洋。琅威理离职之后，李鸿章雇聘其他一些外国军官到北洋海军：两个英国人，两个美国人，4个德国人。不过他们没有一个人有琅威理的才干和技能，也没有一个人有和琅威理匹敌的权力和权威，以解决北洋舰队内部的问题，纠正对它的态度。这也导致了北洋海军自1890年以后日益衰败。

北洋舰队一直到1888年才正式成立。造成这一延搁有几个原因。向外国购买的船只驶达要一段时间。李鸿章最初对于舰队应如何组织和调动，并没有把握。自1860年代以来曾经分别提出三个海军计划：曾国藩所拟“内江外海水师”计划；丁日昌所拟“三洋水师”计划；

和李鸿章的幕僚薛福成所拟“北洋水师”计划。所有这三个计划都不充分具体，因此李鸿章的北洋舰队正式组成便大为推迟。1888年3月经朝廷催促行动，李才令其僚属——天津海关道周馥、北洋海军提督丁汝昌、管带刘步蟾和林泰曾，以及北洋水师营务处道员罗丰禄——向琅威理咨询。

3个月后，北洋海军组织章程拟就底稿。经李鸿章同总理海军衙门大臣醇亲王讨论以后，这份文件终于1888年8月奏准实施。这一计划虽以传统的绿营水师和长江水师的组织为蓝本，但是它也有选择地参照了英国、法国和德国的海军组织。

根据所定制度，北洋海军分为前军和后军。前军是舰队的主要作战单位。它由9个营组成（一船为一营），分为中军及左、右翼。后军为舰队的后勤，负责全舰队的训练和补给。它由16个鱼雷营组成。北洋海军到此时共有舰艇30余艘，41000余吨，大炮120门，官兵4000余名。

除了外籍专家，包括轮机在内，有87名高级军官，其中有43人，即占总人数近一半，受过正式训练，35人毕业于福州船政学堂，8人毕业于天津水师学堂。

他们中间，24人曾在国外留学：留学英国13人，美国10人，德国1人。未受国外正式训练的人员中，有一些曾去英国、法国或德国作短期考察，协助监造船只，或接船驶返中国。这些军官在整体上显然比起他们在绿营水师或长江水师中同等地位的人，更为胜任。

北洋舰队最初并没有标准的操练规定。在《北洋海军章程》公布以后，才有以下八种规定：小操、大操、会操、会哨、合操、操巡、巡历和校阅。每次都记录功过，据以分别赏罚。北洋舰队不仅强调正常操练，而且经常派往南北洋各口巡弋。此外，它还出访海参葳和朝鲜港口，南面则远达新加坡和东南亚水域。

北洋海军曾经成功地维护中国在东北亚的海权。但是随着1890年琅威理离职，督责训练乏人，它开始衰退。李鸿章也年事已高，他忙于其他紧迫事情，对海军详情细节便无暇多顾.
修筑海军基地防御工事