1865年，江南制造总局在上海成立；三十年之后，中国在甲午战争之中惨败给邻邦日本。在战争之前，中国人和日本人在日本发生冲突时，日本人一般都会避让；但战争的胜负彻底改变了一切，也宣告了江南制造总局，这个中国最早，规模最大的官办军工企业的失败。

19世纪中叶的中国让人感到的是一种近乎窒息的危机。遍布全国的叛乱让政府军疲于奔命，列强的军队攻入神秘的京城则如探囊取物一般容易。1861年9月，曾国荃收复安庆。同年12月，曾国藩设立安庆军械所。曾国藩原本寄希望于本土工程师可以很快掌握西方先进科技，尤其是军工技术，但很快就意识到这条道路远比预想的困难。在经过和中国近代第一个留学生容闳的交流之后，曾国藩、李鸿章等人制定了建立制器之器工厂的目标，而承担这一使命的典型代表正是江南制造总局。

江南制造总局的设备由三个部分组成，一是容闳在美国购置的机器，一是丁日昌在上海虹口地区收购的旗记铁厂设备，一是苏州和上海洋炮局的设备。1867年，江南制造局由上海美国租界迁移至城南高昌庙新址，即今江南造船厂原址，规模开始扩大，局内划分了若干生产部门和行政管理部门。本来江南制造总局计划沿着制器之器的路线发展，但时局的变化阻断了这一切。

1865春，和捻军作战的清军在山东曹州惨败，统率僧格林沁丧命，清廷为之震惊。不但将曾国藩调去填补僧格林沁的位置，还命令江南制造总局提供武器弹药。但江南制造总局早期的生产却是举步维艰，1866年2月中旬，由于锅炉问题，制造轻武器的机器一周没有运转。锅炉修好之后，又由于炉内材料不过关，因此无法承受生产轻武器的温度，而且制造毛瑟枪枪托的机器也无法正常运转。

由于政府垄断军备生产，制造局的产品不进入市场，军火直接调拨给各省的部队使用，生产的机器、钢材等，也主要供应制造局内部和其它淮系的军工企业的扩充之需。在制造上可以说是不惜成本，因此也就没有任何效益可谈。

在公司内部管理上，江南制造总局虽然从事的是近代重工业生产，但基本的体制还是沿用了官府作坊生产的模式。高级行政官员采取委任制，通常直接由政府官员调任，生产部门的工程师、工匠等人员则采取雇佣制。但是，由于制造局属于官办企业的特殊性质，政府即代表了雇主，工人与雇主之间并非是一种自由的劳资关系。制造局像衙门一样，可以用行政权力管制工人。因为局内的行政官员缺乏专业技术，故而生产部门长期被外籍技术人员把持，使得行政效率难以正常发挥。

实际上，当时虽然在李鸿章、曾国藩等人的大力支持之下，江南制造总局在设备和规模上不但在国内首屈一指，在亚洲也是位居前列。但由于大部分原料无法在国内获得，因此价格由于水运和保险等费用而暴涨。1875年之前总投资中超过50%的资金就是耗费在这样的花费上。

对于这样的状况，曾国藩曾经明智的制定了一个控制经费预算的制度，按照这个制度，制造局的总办和三个独立机构将参与每一件财务的处理。但这一制度随着曾国藩的去世而日益消亡，局内官员营私舞弊之风也日益发展，据上海英国领事估计，1867年初。江南制造总局在采购方面滥用的经费，相当于所购置的物资和机器设备实际价值的两倍。另据报道，一家外国商号付了20%的佣金给该厂负责订购他们物资的每一个官吏。

与此相对的是，局内培养出来的技术人才，因为没有合适的岗位而造成了人才的浪费和流失，以致广方言馆精算术绘图之技的人员被派到机器厂去司工账。另一名在数学和机械制图方面颇具才能的员工，在局内薪水仅为每月10～20两，此人后来成为外国某矿工程师，月薪100两。

甲午战争的结局显示了几乎同时起步的中日近代化进程在结果上的大相径庭，而江南制造总局的发展史也表明，在一个没有实现彻底变革的社会之中，单纯的引入先进技术最终是无法承载富国强兵的梦想的。

1905年，局坞分家，造船部分从江南制造总局中分离，改名江南船坞，制造枪炮的部分，后来分别并入金陵和汉阳两个兵工厂。1953年，造船部分改称江南造船厂，即如今的江南造船(集团)有限责任公司。今天，该公司仍在为2010年前成为世界一流的大型企业而努力奋斗。