In der Kolonialwarenhandlung seiner Großmutter absolvierte er eine kaufmännische Lehre. Ab 1806 war er als Gehilfe in dem der Familie gehörenden Hüttenwerk tätig. 1811 gründete Krupp gemeinsam mit den Brüdern Georg und Wilhelm von Kechel in Essen eine Gußstahlfabrik, aus der später unter seinem Sohn Alfred die größte Gußstahlfabrik der Welt wurde. Er entwickelte ein Verfahren für die fabrikmäßige Herstellung von qualitativ hochwertigem Gußstahl. Ab 1812 war er Stadtrat und bemühte sich besonders um die Verbesserung und den Ausbau der Essener Straßen. Krupp starb 1826, mit fast 10 000 Talern verschuldet. Zu diesem Zeitpunkt war die Produktion nahezu völlig zum Erliegen gekommen. Für sein Scheitern waren neben einer ungünstigen gesamtwirtschaftlichen Lage sein sprunghaftes Naturell, später seine labile Gesundheit und sein starkes kommunalpolitisches Engagement ausschlaggebend.