Im Programm der Einheitslokomotiven bestand ab 1927 die Baureihe 80 als kleinstes Modell. Es handelte sich dabei um eine Tenderlokomotive der Achsfolge C, die überwiegend im Rangierbetrieb eingesetzt wurde. Da diese jedoch für manche Aufgaben zu schwach war, wurde eine vierachsige Variante als Baureihe 81 entwickelt. Auf Grund der Einheitsbauweise war dies ohne viel Aufwand möglich und so fertigte Hanomag bereits 1928 eine kleine Serie von zehn Stück.
Die durch die vierte Achse vergrößerte Länge und das nun mögliche höhere Gewicht nutzte man aus, indem man den Kessel um einen Meter verlängerte. Da die Lok weiterhin überwiegend als Rangierlok eingesetzt werden sollte und somit keine höheren Geschwindigkeiten gefordert waren, beließ man den Raddurchmesser zum Erreichen einer großen Zugkraft bei 1.100 mm. Zur Sicherstellung der Kurvengängigkeit wurden die Spurkränze bei beiden inneren Achsen um 10 mm geschwächt.
Obwohl die Einheitsbaureihen als Ersatz für die große Vielfalt an Länderbahntypen entwickelt worden waren, wurden die vielen vorhandenen größeren Tenderloks als ausreichend für den Rangierbetrieb angesehen und somit blieben weitere Bestellungen vorerst aus. Als ein weiteres Los von 60 Stück in Auftrag gegeben wurde, verlagerte der Krieg den Bedarf hin zu schweren Güterzugloks und somit blieb es bei nur zehn Exemplaren der Baureihe 81. Nach dem Krieg verblieben alle bei der Bundesbahn und wurden bis 1963 ausgemustert.