Людвиг Бек родился 29 июня 1880 года в Биберахе в семье крупных промышленников. На военной службе с 1898 года. В годы Первой мировой войны Бек служил в Генеральном штабе в качестве офицера, затем стал начальником штаба армии.
После войны служил в рейхсвере. В 1933—1935 годах Бек занимал должность начальника войскового управления, а с 1935 года он начальник генерального штаба сухопутных войск Германии. В его обязанности входили разработка и проведение наземных операций. В этой должности он прослужил до 1938 года и стал одним из организаторов вермахта. Бек был сторонником сохранения верховного руководства вермахтом со стороны генералитета. В связи с этим выступал против сосредоточения в руках Гитлера всей полноты политической и военной власти. В конце мая 1938 года Бек выступает против намеченного вторжения в Чехословакию, мотивируя это неподготовленностью германских войск к крупномасштабным военным операциям. 18 августа 1938 года в знак протеста подает в отставку.
Бек всегда выступал против агрессивной войны, которая, по его мнению, приведет Германию к гибели. Он становится членом оппозиции Гитлеру, сформировавшейся в самом начале войны. Оппозиционные военные рассматривали кандидатуру Бека как возможного главы государства после устранения фюрера с политической арены.
В 1944 году Людвиг Бек становится одним из руководителей заговора против Гитлера. После неудавшегося покушения на фюрера 20 июля 1944 года Бек был арестован в здании военной канцелярии и вечером того же дня покончил жизнь самоубийством.