Ludwig Mies van der Rohe nació el 27 de marzo de 1886 en la ciudad de Aquisgrán (Alemania), hijo de Jakob y Amalia Rohe. En 1900 empezó a trabajar en el taller de escultura de piedras de su padre y en 1905 se trasladó a Berlín para colaborar en el estudio de arquitectura de Bruno Paul.
En 1907 realiza su primera obra, la casa Riehl. De 1908 a 1911 trabajó en el despacho de Peter Behrens, del cual, Mies desarrolló un estilo arquitectónico basado en técnicas estructurales avanzadas y en el clasicismo prusiano. También realizó diseños innovadores con acero y vidrio. En 1911 dirigió la construcción de la embajada alemana en San Petersburgo.
En 1912 abrió su propio estudio en Berlín. En 1922 se hizo miembro del "Novembergruppe" y se puso por nombre Mies van der Rohe. Junto con van Doesburg, Lissitzky y Richter editó en 1923 la revista "G" y trabajó en los planos de dos casas de campo hechas de ladrillo, cuyos extensos muros y difuminadas líneas revolucionaron el concepto de vivienda.
En 1926 fue vicepresidente de la Deutscher Werkbund y llevó a cabo obras de cierta envergadura, como la casa Wolf en Guben, toda de ladrillo, y la casa Hermann Lange en Krefeld. En 1929 Mies recibe el encargo de proyectar el Pabellón nacional de Alemania para la Exposición Internacional de Barcelona, para el que diseñó también la famosa silla Barcelona, de acero cromado y cuero
En 1930 concluyó la Villa Tugendhat en Brünn (actual República Checa). De 1945 a 1950 construye la casa Farnsworth en Illinois.
Entre los años 1948 y 1951 hace realidad su sueño de construir un rascacielos de vidrio con las dos torres del Lake Shore Drive Apartments de Chicago, y, más tarde, el Commonwealth Promenade Apartments, también en la misma ciudad (1953-1956).
En 1959 se jubila del Illinois Institute of Technology.
De 1962 a 1968 construye en Berlín la Galería Nacional. Se trata de un edificio dedicado a exposiciones de obras de arte, formado por una gran sala cuadrada construida completamente en cristal y acero y situada sobre una extensa terraza de losas de granito.
El 17 de agosto de 1969 muere en Chicago.