柴油机的主要机构组件一般包括：机体、曲柄连杆机构、配气机构、燃油系统、润滑系统、冷却系统、电器系统。基本结构包括：曲柄连杆机构、配气机构、传动机构、燃油供给系统、润滑系统、冷却系统和气动系统（俗称三大机构、四大系统）。

曲柄连杆机构、配气机构和燃油供给系统是柴油机的三大基本部分，它们互相配合，完成柴油机的工作循环，实现能量转换。

柴油机在使用过程中，必须对以上各部分予以充分重视，不可忽视任何一个部分，否则，柴油机的正常工作将无法保证，甚至会造成柴油机的严重损坏。

对于现代柴油机而言，在上述基本结构的基础上，通过增加增压系统（提高进气压力）而成为增压柴油机，通过对供油系统的电控化而成为电控柴油机（包括电控共轨柴油机和电控单体柴油机）。