Als Weiterentwicklung der ТЭ2, welche die erste in Großserie gebaute, in der Sowjetunion entwickelte Diesellok war, entstand die ТЭ3. Das Kernstück war der neue Motor 2D100, der ein Gegenkolben-Dieselmotor mit zehn Zylindern und 20 Kolben war. Es handelte sich wieder um eine Doppellok, auf Grund der schwereren und doppelt so starken Motoren stand nun jedoch jede Sektion auf zwei dreiachsigen Drehgestellen. 

Die Doppelloks waren so konstruiert, dass jede Sektion auch unabhängig eingesetzt werden konnte. Viele Baugruppen waren immer noch die gleichen wie bei der ТЭ1 und ТЭ2, basierten also noch auf der ursprünglichen ALCO-Konstruktion. Das grundlegende Aussehen entsprach der ТЭ2, spätere Loks erhielten jedoch einen erhöhten Führerstand.

Da die Testfahrten gute Ergebnisse zeigten und die Leistung nun für den Ersatz der stärksten Dampfloks ausreichte, entschied man sich für die Einstellung der Produktion von Dampfloks. Zur Deckung des Bedarfs startete man die Fertigung der ТЭ3 in zwei großen Werken und ab 1963 kam Lugansk noch zusätzlich dazu. Bis 1973 entstanden insgesamt 6.808 Doppeleinheiten.

Zur Erreichung einer Gesamtleistung von 6.000 PS wurden einige Loks auf drei Sektionen umgebaut. Sobald neue Loks mit 3.000 PS pro Sektion verfügbar waren, wurden diese Loks wieder auf zwei Sektionen zurückgebaut. Für Personenzüge entstand die ТЭ7 auf Basis der ТЭ3, die 140 km/h erreichte. Die letzten ТЭ3 wurden in Russland bis 2003 im Güterverkehr eingesetzt. In anderen GUS-Staaten konnte man sie auch noch länger im Einsatz in der Industrie finden.