Trần Đại Nghĩa có tên thật là Phạm Quang Lễ, sinh ra ở Vĩnh Long và mồ côi cha từ khi 6 tuổi. Trước khi từ giã cõi đời, cha ông căn dặn người thân phải cố gắng cho ông ăn học đến nơi đến chốn để giúp nhà và giúp đời.
Chị gái của ông đã phải bỏ học để cùng mẹ làm lụng nuôi Phạm Quang Lễ được đến trường. Ông lớn lên trong vòng tay yêu thương của mẹ và chị gái. Với tư chất thông minh vượt trội,thi đỗ đầu hai bằng tú tài: Tú tài Việt và Tú tài Tây.
Sau 2 năm làm việc tại các Đại sứ quán Mỹ,ông đi du học Pháp và tốt nghiệp kỹ sư và cử nhân toán học tại nhiều trường nổi tiếng tại Pháp. Năm 1942, ông sang Đức làm việc trong xưởng chế tạo máy bay và Viện nghiên cứu vũ khí.
Năm 1946,Ông cùng với kỹ sư luyện kim Võ Quý Huân, bác sĩ Trần Hữu Tước theo Hồ Chủ tịch về nước, tham gia tổ chức, chế tạo vũ khí cho quân đội tại núi rừng Việt Bắc. Ngày 5 tháng 12 năm đó, Hồ Chí Minh đặt tên mới cho ông là Trần Đại Nghĩa và trực tiếp giao cho ông làm Cục trưởng Cục Quân giới , năm 1948 phong quân hàm Thiếu tướng, Bộ Tổng tư lệnh Quân đội.Trong quân đội từng giữ các chức vụ: Cục trưởng Cục pháo binh, Phó chủ nhiệm Tổng cục Hậu cần, Phó Chủ nhiệm Tổng cục Kỹ thuật.
Vào thời đó, quân đội Việt Nam rất thiếu thốn vũ khí, phải dùng vũ khí cảm tử như bom ba càng để đánh xe tăng Pháp. Với kiến thức tích lũy trong 11 năm học tập ở nước ngoài, tháng 11 năm 1946, kỹ sư Trần Đại Nghĩa cùng các cộng sự bắt tay nghiên cứu chế tạo súng và đạn chống tăng Bazooka để bộ đội Việt Nam có vũ khí chống xe tăng và lô cốt Pháp. Sản phẩm hoàn toàn đạt yêu cầu, tương đương tính năng súng Bazooka cỡ 60mm của Mỹ. Bazooka Việt Nam bắt đầu chiến đấu vào ngày 5 tháng 3 năm 1947, 10 quả đạn và 3 khẩu súng chuyển về Trung đoàn Thủ đô (do tướng Vương Thừa Vũ chỉ huy) đã bắn cháy 2 xe tăng Pháp tại chùa Trầm, Quốc Oai (Hà Nội). Đến tháng 4 năm 1947, súng Bazooka bắt đầu sản xuất hàng loạt gửi đi các chiến trường.
Sau đó, ông tiếp tục nghiên cứu chế tạo súng không giật (SKZ) cỡ 60mm. Súng SKZ 60 là loại vũ khí công đồn nặng khoảng 26 kg, có thể tháo rời để mang vác, đầu đạn nặng khoảng 9kg, có thể xuyên thủng bê tông dày trên 60cm. SKZ 60 lần đầu lập chiến công phá tan boong ke kiên cố của Pháp trong chiến thắng phố Ràng, phố Lu của Trung đoàn Thủ Đô - Đại đoàn 308 trong Chiến dịch Lê Hồng Phong cuối năm 1949.
Sau khi hòa bình lập lại ở miền Bắc ông được chuyển sang lĩnh vực dân sự và giữ nhiều chức vụ quan trọng.Ông được đã được trao tặng Huân chương Hồ Chí Minh và danh hiệu Anh hùng Lao động
Năm 1956, trường Đại học Bách Khoa Hà Nội được thành lập, Giáo sư Trần Đại Nghĩa là hiệu trưởng đầu tiên, người đặt nền móng cho trường đại học khoa học, kỹ thuật và công nghệ đầu tiên của Việt Nam - chiếc nôi nuôi dưỡng một lực lượng cán bộ khoa học kỹ thuật và cán bộ quản lý phục vụ công cuộc tái thiết và xây dựng đất nước sau này.