Klein wurde am 15. April 1949 in Düsseldorf geboren.
Nach zweieinhalb Jahren an einer elementaren Privatschule,
trat er Ostern 1857 in das humanistische Gymnasium seiner Heimatstadt ein.
Nach bestandener Reifeprüfung ging Klein als 16jähriger 1865 zum Studium an die Universität Bonn.
Dort wollte er Mathematik und Naturwissenschaften studieren.
Schon Ostern 1866 war er Vorlesungsassistent bei Julius Plücker.
Plücker veröffentlichte zu dieser Zeit sein Buch "Neue Geometrie des Raumes".
Dadurch kam Klein mit dem Gebiet der Liniengeometrie in Berührung.
Als 1868 Plücker plötzlich verstarb, wurde Klein beauftragt den zweiten Teil
zu oben genannten Buch zuvollenden.
Am 12. Dezember 1868 promovierte Klein bei Rudolf Lipschitz zum Dr. phil.
Da Klein bis zu seiner Promotion noch keine Vorlesung über Intergralrechnung gehört hatte, verlies er Bonn 1869, und ging nach Göttingen. Dort lehrte der junge Mathematiker Alfred Clebsch. Obwohl Klein nur bis zum Herbst in Göttingen blieb, hatte Clebsch doch großen Einfluß auf die Entwicklung von Klein.
In Folge ging Klein nach Berlin, und arbeitete dort mit den jungen Mathematikern
Sophus Lie und Otto Stolz zusammen. Zu dieser Zeit wurde Klein mit
den Arbeiten von Nikolai Lobatschewski und Janos Bolyai über nicht-euklidische Geometrie bekannt.
Im Juli 1870 wurde die Zusammenarbeit von Klein und Lie durch den Deutsch-Französischen Krieg
beendet. Klein kehrte nach Göttingen zurück, und habilitierte sich dort im Jannuar 1871.
1872 wurde Klein zum ordentlichen Professor nach Erlangen berufen. Dort war es üblich, das neu berufene Professoren eine Antrittsrede hielten. Kleins Rede hatte den Titel "Vergleichende Betrachtungen über neuere geometrische Forschungen", und wurde unter dem Namen "Erlanger Programm" weltbekannt. Als 1872 Clebsch an Diphterie starb, folgten viele seiner Schüler Klein nach Erlangen. Dieser führte sechs von diesen bis 1875 zur Promotion.
1875 folgte Klein einer Berufung an die Technische Hochschule nach München, und 1880 wurde er Professor für Geometrie an der Universität Leipzig. Im Jahre 1886 wurde Klein schließlich nach Göttingen berufen, wo er bis zu seiner Emeritierung blieb. Bis zu seiner Berufung nach Göttingen waren aus der Reihe von ihm betreuten Studenten und jungen Wissenschafter bereits vier ordentliche und drei außerordentliche Professoren, sowie mehrere Privatdozenten hervorgegange.
1882 erkrankte Klein, und zwang ihn seine Tätigkeit als Forscher im wesentlichen beendete. Dies führte Klein selbst auf die Anstrengungen seiner bisherigen Forschung zurück: "Der Preis den ich führ meine Arbeit habe zahlen müssen, war allerdings außerordentlich hoch, er war, daß meine Gesundheit vollends zusammenbrach ... Meine eigentliche Tätigkeit auf dem Gebiet der theoretischen Mathematik ist 1882 zugrunde gegangen."
Im Jahr 1893 führte ihn seine Tätigkeit als Kommissar des Preußischen Kultusministers
in die USA. Dort nahm er am Mathematiker-Kongreß teil,der anläßlich der Weltausstellung in
Chicago stattfand.
1913 emeritierte Klein. Zu dieser Zeit hielt er vor kleinen Kreis privat in seiner Wohnung die "Vorlesung über die Entwicklung der Mathematik im 19. Jahrhundert. Am 22. Juni 1925 verstarb Klein in Göttingen.
Seine Forschungen fanden vorallem auf dem Gebiet der Geometrie statt, obwohl er bis zu seiner Emeritierung sein Interesse an Physik nicht verlor. Klein war Herausgeber der "Mathematischen Annalen"; unter seiner Leitung entstand die "Enzyklopädie der mathematischen Wissenschaften", an der mehr als 200 Wissenschafter mitwirkten.