Trường Mẫu giáo Họa Mi 2 được thành lập vào năm 1983, từ sự quan tâm của Đảng ủy, Ủy ban xã Tân Thới Hiệp; sự hỗ trợ của Ban giáo dục nhà trẻ, Ban tài chính Huyện Hóc Môn và công sức đóng góp của nhân dân Ấp 5. Ban đầu, trường được xây dựng với 2 phòng học, sau đó ngày càng được xây dựng và phát triển trở thành một trong những đơn vị giáo dục có uy tín, tạo được niềm tin của cấp trên và bao thế hệ phụ huynh, góp phần đáp ứng nhu cầu ngày càng cao của bậc học mầm non.
Ngày 06/01/1997, khi Chính phủ ban hành Nghị định 03/CP, thành lập quận 12 trên cơ sở tách toàn bộ diện tích và dân số 5 xã An Phú Đông, Đông Hưng Thuận, Tân Thới Hiệp, Tân Thới Nhất, Thạnh Lộc và một phần hai xã Tân Chánh Hiệp, Trung Mỹ Tây của huyện Hóc Môn. Trường mẫu giáo Họa Mi 2 lúc này thuộc địa phận Quận 12, phường Hiệp Thành và tọa lạc tại số 89A Nguyễn Ảnh Thủ, Khu phố 2, Phường Hiệp Thành, Quận 12.
Đến năm 2011, trường được UBND Quận 12 đầu tư xây dựng giai đoạn 1 với tổng diện tích là 3.283 m² và chính thức đi vào hoạt động vào năm học 2012 – 2013 đã bước đầu xây dựng nên một ngôi trường mới, đẹp, khang trang với tổng cộng 12 phòng học, 3 phòng chất năng, vườn cổ tích, vườn rau của bé, sân chơi cát - nước cho các bé, đáp ứng được nhu cầu chăm sóc, giáo dục trẻ ở địa phương. Và trong năm học 2014 - 2015, nhà trường đã đón Đoàn Kiểm tra Chất lượng giáo dục và đạt được Cấp độ 2.
Với việc không ngừng nâng cao chất lượng giáo dục toàn diện, đặc biệt coi trọng đổi mới phương pháp giảng dạy và công tác quản lý; xây dựng và phát huy các truyền thống tốt đẹp của nhà trường, chất lượng giáo dục toàn diện của nhà trường ngày càng được nâng cao.
Trải qua hơn 30 năm hình thành, xây dựng và phát triển, với đội ngũ Cán bộ - giáo viên – công nhân viên nhà trường giàu lòng yêu nghề, có năng lực và nghiệp vụ cao, trường Mẫu giáo Họa Mi 2 đã, đang và sẽ luôn luôn phấn đấu để đạt được ngày càng nhiều thành tích trong công tác chăm sóc – nuôi dưỡng trẻ mẫu giáo cũng như luôn tạo được niềm tin của cấp trên và các bậc phụ huynh
Tháng 10/2018, trường bước vào xây dựng giai đoạn 2 với quy mô 5 phòng học và các phòng chức năng, khu hiệu bộ... Dự kiến tháng 8/2019, trường sẽ đưa vào hoạt động khu vực xây dựng giai đoạn 2.