Diesel stammte aus einer Fabrikantenfamilie. Seit 1870 in Augsburg lebend, besuchte er die Augsburger Gewerbe-, dann die dortige Industrieschule. Diesel studierte danach an der Technischen Hochschule in München. Dort hörte er Vorlesungen über Thermodynamik beim Erfinder der Kältemaschine Carl von Linde. Damit erhielt er die Anregung zur Konstruktion einer Wärmekraftmaschine. 1893 gab Diesel sein Buch "Theorie und Konstruktion eines rationellen Wärmemotors" heraus. Er, der seit 1895 in München wohnte, war in Paris und Berlin vorerst auf kältetechnischem Gebiet tätig, dann entwickelte er zwischen 1893 und 1897 den nach ihm benannten Hochdruckverbrennungsmotor, dessen Patent er bereits 1892 angemeldet hatte. Am 17. Februar 1897 waren in Augsburg erste praktische Versuche am neuen Motor unternommen worden. Bei der Konstruktion des Dieselmotors arbeitete er nämlich mit der Maschinenfabrik in Augsburg und mit der Firma F. Krupp zusammen. 1897 wurde der erste Dieselmotor produziert. Zahlreiche Patentprozesse führten bei ihm zu einem Nervenzusammenbruch. Erst 1908 war Diesel wieder an der Weiterentwicklung des Motors beteiligt. Er baute den ersten Kleindieselmotor für LKW und Lokomotiven. Im Jahre 1913 kam sein Buch "Die Entstehung des Dieselmotors" heraus. Bei einer Reise nach Großbritannien ertrank er in der Nordsee.