Trường Tiểu học Tân Mai thành lập năm 1961. Qua 58 năm xây dựng, trường Tiểu học Tân Mai đã thay đổi không ngừng và phát triển mạnh mẽ. Ngôi trường ra đời, đáp ứng kịp thời nguyện vọng thiết tha và cháy bỏng của nhân dân trong Quận.
Ngay sau ngày thành lập, nhận thức được vai trò, sứ mệnh của nhà trường, lãnh đao Quận, phòng Giáo dục & Đào tạo quận Hoàng Mai tập trung chỉ đạo xây dựng cơ sở vật chất, xây dựng tổ chức trong nhà trường để chăm lo sự nghiệp trồng người, càng tạo động lực và điều kiện để trương Tiểu học Tân Mai có những bước phát triển vượt bậc.
58 năm xây dựng và phát triển, trường tiểu học Tân Mai đã chắp cánh cho biết bao thế hệ học trò quê hương Tân Mai. Những năm qua, dưới sự chỉ đạo, quan tâm sâu sát của Sở Giáo dục và Đào tạo Hà Nội, Quận ủy, HĐND, UBND quận, phòng Giáo dục & Đào tạo quận Hoàng Mai, trường Tiểu học Tân Mai đã hoàn thành tốt các nhiệm vụ năm học và đạt nhiều thành tích trong công tác thi đua “Dạy tốt – Học tốt”.
Năm 1998 là trường Tiểu học đạt chuẩn Quốc gia đầu tiên ở nội thành Hà Nội. Nhiều năm liền nhà trường được UBND Thành phố tặng danh hiệu “Tập thể Lao động Xuất sắc”.
Năm 2003 được Nhà nước tặng thưởng Huân chương Lao động hạng Ba. Ba lần nhà trường được Thủ tướng Chính phủ tặng bằng khen (đó là các năm học: năm học 1997-1998 đến năm học1998-1999; năm học 2006-2007 đến năm học 2008-2009; năm học 2011-2012 đến năm học 2013-2014).
Hai lần được UBND Thành phố tặng Cờ thi đua đơn vị xuất sắc (đó là các năm học: 2008-2009; 2015-2016). Năm học 2010 – 2011, trường vinh dự được Chủ tịch nước tặng thưởng Huân chương Lao động hạng Nhì.