Die Entwicklung der J5 geht auf den Entwurf der „Standard Goods” von Patrick Stirling zurück, die ab 1867 gebaut wurde und als Klasse J7 bekannt ist. Als direkte Weiterentwicklung wurde ab 1873 die J6 gebaut, bei der der Kesseldurchmesser von 4 Fuß und 1/2 Zoll um zwei Zoll vergrößert worden war, der Zylinderdurchmesser von 24 auf 26 Zoll wuchs und die nun Radkästen rund um die Räder hatte.

Nachdem die letzten zehn J6 andere Kessel mit einem Durchmesser von 4 Fuß und 5 Zoll erhalten hatten, wurden 1903 133 neue Loks mit diesen Kesseln gebaut und als J5 bezeichnet. 125 von den 170 J6 wurden daraufhin ebenfalls in die J5 umgebaut. Zwölf annähernd baugleiche Loks gingen an die Midland & Great Northern Joint Railway. Die J5 waren oft in Doppeltraktion vor schweren Kohlezügen anzutreffen, die von Peterborough direkt nach London fuhren. Teilweise wurden sie jedoch sogar vor Nahverkehrszügen eingesetzt. Im Ersten Weltkrieg wurden 26 Stück vom ROD eingezogen und nach Frankreich gebracht. Dabei erhielten sie eine Kondensationseinrichtung zur Reduzierung der sichtbaren Dampffahne, die bei der Rückkehr nach Großbritannien wieder ausgebaut wurde.

Ab 1912 begann Nigel Gresley, die J5 zur einer neuen Klasse namens J4 umzubauen. Dabei wurde ein neuer Kessel verwendet, der nun einen Durchmesser von 4 Fuß und 8 Zoll hatte und eigentlich für die 2'B-Loks der Klasse D2 vorgesehen war. Vor der Gruppierung wurden 71 Exemplare umgebaut, die dann bei der neu gegründeten LNER zur J3 wurden, während die verbliebenen J5 zur J4 wurden. Bis 1929 wurden von der LNER weitere 82 Stück umgebaut. In dieser Zeit verlagerte sich das Einsatzgebiet der Loks zu Rangieraufgaben und Nahgüterzügen, da nun für die Beförderung schwerer Güterzüge auf Hauptstrecken stärkere Loks verfügbar waren. Nach und nach reduzierte sich die Anzahl der Loks, wobei einige an Kohlegruben verkauft wurden. Einige Exemplare gelangten 1948 noch zu den British Railways, wobei die letzten nicht umgebauten 1951 ausgemustert wurden und die letzten umgebauten 1954.