ТГМ40 (или ТГМ40С – со снегоочистителем) представляет собой дизельный локомотив с гидравлической передачей с двумя гидротрансформаторами. Все агрегаты смонтированы на раме тепловоза, которая опирается на две двухосные тележки с центральными шкворнями посредством восьми скользящих опор с резиновыми амортизаторами и текстолитовыми направляющими скольжения.
Кузов тепловоза, включая капот и кабину, даёт хороший доступ к силовым механизмам. В кабине установлены два пульта управления и обогреватель. ТГМ40 оборудован автоматическим тормозом для торможения состава и локомотивным тормозом для тепловоза. Ручной привод действует на колёсные пары задней тележки.
Также локомотив оборудован системой контроля бдительности машиниста для экстренного автоматического торможения при отсутствии соответствующих поступающим сигналам манипуляций машиниста.
Охлаждающее устройство (холодильник) обеспечивает надежное охлаждение воды (или тосола) и масла дизеля и рабочей жидкости гидропередачи (масла). Управление вентилятором и створками и жалюзи автоматическое. Для пуска дизеля в зимних условиях предусмотрен предпусковой подогреватель.