ต้นกำเนิดของกล้องจุลทรรศน์สามารถสืบย้อนไปถึงศตวรรษที่ 16 แม้ว่าแนวคิดเรื่องการขยายและเลนส์เป็นที่รู้จักมานานหลายศตวรรษ แต่ในช่วงเวลานี้เองที่เกิดความก้าวหน้าที่สำคัญในการพัฒนาอุปกรณ์เกี่ยวกับการมองเห็นสำหรับการขยายวัตถุขนาดเล็ก
เครดิตสำหรับการประดิษฐ์กล้องจุลทรรศน์แบบผสมซึ่งใช้เลนส์หลายตัวในการขยายวัตถุ มักมอบให้กับนักวิทยาศาสตร์ชาวดัตช์ Zacharias Janssen ประมาณปี 1590 Janssen และพ่อของเขา Hans Janssen ซึ่งเป็นผู้ผลิตแว่นตา ได้สร้างกล้องจุลทรรศน์โดยใส่เลนส์หลายตัวลงในหลอดเดียว กล้องจุลทรรศน์ในยุคแรกๆ นี้เป็นความก้าวหน้าครั้งสำคัญเนื่องจากสามารถขยายได้สูงขึ้นและมีความกระจ่างชัดเจนมากขึ้นเมื่อเทียบกับอุปกรณ์ขยายรุ่นก่อนๆ
กล้องจุลทรรศน์ของ Hans และ Zacharias Janssen มีข้อจำกัดตรงที่ได้รับผลกระทบจากความคลาดเคลื่อนสี ซึ่งสีที่ต่างกันจะโฟกัสที่จุดต่างกัน ส่งผลให้ภาพเบลอ ข้อจำกัดนี้ได้รับการแก้ไขในภายหลังโดยนักวิทยาศาสตร์ชาวดัตช์อีกคน Antonie van Leeuwenhoek ในช่วงปลายศตวรรษที่ 17 ลีเวนฮุกได้ปรับปรุงการออกแบบกล้องจุลทรรศน์และพัฒนาเลนส์อันทรงพลังของเขาเอง เขาได้รับการขยายอย่างน่าทึ่งและเป็นคนแรกที่สังเกตและบันทึกจุลินทรีย์ เช่น แบคทีเรียและโปรโตซัว โดยใช้กล้องจุลทรรศน์ของเขา
กล้องจุลทรรศน์ของลีเวนฮุกเป็นอุปกรณ์เลนส์เดี่ยวแบบเรียบง่ายที่เรียกว่า "กล้องจุลทรรศน์แบบธรรมดา" หรือ "กล้องจุลทรรศน์ของลีเวนฮุก" กล้องจุลทรรศน์เหล่านี้ประกอบด้วยทรงกลมแก้วคุณภาพสูงขนาดเล็กติดตั้งอยู่บนแผ่นโลหะ โดยวางชิ้นงานทดสอบไว้ที่ปลายเข็ม ด้วยการปรับระยะห่างระหว่างชิ้นงานทดสอบและเลนส์อย่างระมัดระวัง Leeuwenhoek สามารถขยายได้ถึง 270 เท่า
การพัฒนาและปรับปรุงกล้องจุลทรรศน์ดำเนินไปอย่างต่อเนื่องตลอดหลายศตวรรษ โดยได้รับการสนับสนุนจากนักวิทยาศาสตร์ที่มีชื่อเสียงคนอื่นๆ เช่น Robert Hooke และ Ernst Abbe หนังสือ "Micrographia" ของฮุคซึ่งตีพิมพ์ในปี 1665 จัดแสดงข้อสังเกตของเขาโดยใช้กล้องจุลทรรศน์ และเผยแพร่การใช้กล้องจุลทรรศน์ในการวิจัยทางวิทยาศาสตร์ให้แพร่หลาย
ปัจจุบันกล้องจุลทรรศน์กลายเป็นเครื่องมือที่ขาดไม่ได้ในสาขาต่างๆ ทั้งชีววิทยา การแพทย์ วัสดุศาสตร์ และนาโนเทคโนโลยี พวกมันได้พัฒนาเป็นเครื่องมือขั้นสูงที่สามารถขยายและความละเอียดสูงได้อย่างเหลือเชื่อ ทำให้นักวิทยาศาสตร์สามารถสำรวจรายละเอียดที่ซับซ้อนของโลกด้วยกล้องจุลทรรศน์ได้