Thành lập năm 1862, Nhi đồng 2 một trong số ít bệnh viện lâu đời ở Việt Nam (sau Chợ Quán, nay là Bệnh viện Bệnh Nhiệt đới TP HCM, xây dựng trước đó một năm).
Công trình do Pháp xây dựng khi mới chiếm Nam Kỳ, ban đầu mang tên Bệnh viện Quân sự (Hôpital Militaire), nằm ở ngã tư đường Nationale (nay là Hai Bà Trưng) và đại lộ Norodom (Lê Duẩn). Cơ sở này vào cuối thập niên 1870 chuyển về số 14 rue Lagrandière, nay là đường Lý Tự Trọng.
Năm 1876, nơi này được xây dựng lại theo mô hình kiến trúc như bệnh viện quân y ở các nước thuộc địa của Pháp với các tòa nhà cổ kính giữa khu vườn rộng lớn, nhiều cây xanh, nhằm hỗ trợ lưu thông không khí và kiểm soát dịch bệnh - đặc trưng của kiến trúc y tế châu Âu thế kỷ 19. Ảnh: Thư viện quốc gia Pháp
Sảnh của dãy nhà chính trông bệnh viện rộng rãi, thoáng mát với tường dày, trần cao giúp thông gió tốt.
Cầu thang lên các tầng trên vẫn giữ nét kiến trúc Pháp đặc trưng.
Đội ngũ y bác sĩ bệnh viện đã đạt nhiều thành tựu trong ghép tạng trẻ em, phẫu thuật các bệnh lý thần kinh, chấn thương sọ não... Hiện nay, đây là trung tâm ghép tạng nhi khoa đầu tiên và duy nhất phía Nam. Nơi này còn là trung tâm đào tạo thực hành cho các trường đại học y khoa, tiếp nhận sinh viên quốc tế đến học tập, có nhiều chương trình hợp tác quốc tế.
Năm 2016, bệnh viện trở thành cơ sở y tế đầu tiên được công nhận là di tích kiến trúc nghệ thuật cấp thành phố. Khuôn viên từ vị trí nhà nguyện, phòng ban giám đốc, dãy nhà B 12-13-14 ra đến khu vực đường Lý Tự Trọng được khoanh vùng bảo tồn về cảnh quan, đường đi, cây xanh.
Toàn cảnh bệnh viện Nhi đồng 2 tọa lạc trên khu đất cao với diện tích 8,6 ha, giáp 4 mặt tiền đường Lý Tự Trọng, Chu Mạnh Trinh, Nguyễn Du và Hai Bà Trưng. Đây là một trong số ít bệnh viện còn nguyên vẹn kiến trúc Pháp giữa trung tâm TP HCM.
Quỳnh Trần - Lê Phương