בית החולים נוסד בשנת 1922 ע"י הסתדרות הרפואית "הדסה" ושימש כמוסד אישפוזי ראשון ויחיד של הקהילה היהודית בחיפה עד קום המדינה. הוא שימש מרכז לשרות הרפואי עבור הקהילה היהודית בעיר ובחשאי גם עבור המעפילים ה"בלתי-לגליים" ולוחמי המחתרות.

ב- 1930 עברה הבעלות מ"הדסה" לועד הקהילה היהודית. ב- 1942 עבר ביה"ח למקום משכנו הנוכחי, בבנין שהוקם בתרומת הברונית עדה דה רוטשילד. בביה"ח היו אז 85 מיטות, 3 מחלקות ומעבדה אחת.

ב- 1946 נפתח ליד ביה"ח ביה"ס לאחיות.

"ועד הדר הכרמל" של הקהילה היהודית, שניהל את עניני ביה"ח עד קום המדינה, העביר ב- 1949 את הבעלות לעירית חיפה. בשנות ה- 50 וה- 60 נכנס ביה"ח לתנופת פיתוח גדולה, הוקם בעזרת מפעל הפיס אגף האשפוז המרכזי, מספר המיטות גדל ל-330, ונפתחו מחלקות, מכונים ומעבדות חדשות רבות.

הנחת אבן הפינה
בשנת 1966 הממשלה קיבלה על עצמה את מימון בתי החולים העירוניים, ומאז הופיע ביה"ח רוטשילד בתקציב משרד הבריאות. ב- 1975 הועבר ביה"ח לבעלות הממשלה. עובדי בית החולים ממשיכים להיות עובדי העיריה.
מאז נוסדה הפקולטה לרפואה של הטכניון ב-1969 ביה"ח מסונף אליה ומתפקד כבי"ח אוניברסיטאי.

עקב הצפיפות הרבה באגפי האשפוז ותשתית לא מספיקה הגיעו הממשלה והעיריה להחלטה על הקמת אגף חדש שיכפיל את שטח ביה"ח. סמוך למלחמת יום כיפור ב- 1973 הונחה אבן הפינה לאגף המערבי. עבודת הבנייה נמשכו למעלה מהצפוי עקב קשיי תקציב ורק בשנת 1982 הוחל באיכלוס האגף החדש עם חנוכת חדר המיון, ב- 1984 עברה מחלקת האשפוז הראשונה- המחלקה האורתופדית למשכנה החדש באגף המערבי. ב- 1985 הושלמה קומת החרום. אז פסקו עבודות הבנייה כליל מחוסר משאבים, עד שארגון "בני ציון" בארה"ב הביע נכונותו לאמץ את הפרוייקט, ובשנת 1988 התחדשה הבניה.
באוקטובר אותה שנה, הוסב שם ביה"ח רוטשילד (בהסכמת משפחת רוטשילד) ל"מרכז הרפואי בני ציון". מאז הושלמה בנייתן של עוד ארבע קומות אשפוז. ובסה"כ הושלמו שבע מתוך עשר הקומות המתוכננות באגף החדש, ושתיים נוספות נמצאות עכשיו בבניה שתושלם לקראת סוף שנה זו.

מרבית מחלקות האשפוז כבר עברו למשכן מודרני ויעיל, הצפיפות פחתה בהרבה והתשתית הפיזית השתפרה לאין ערוך. המעבר לאגף החדש פינה שטחים ניכרים באגפים הישנים של בית החולים, אשר עברו שיפוצים, שינויים וחידוש תשתית, ושימשו לפיתוח יחידות ושרותים חדשים, ולהקלת הצפיפות ושיפור התנאים של המחלקות הותיקות שנותרו באגפים אלה.

בעקבות כל אלה תדמית בית החולים עברה מהפכה, והוא מוכר היום כמוסד אשפוזי מרווח, נקי, נוח לחולים ומשרה אוירה נינוחה ונעימה.

ביה"ח זכה בחמישה כוכבי יופי בתחרות "בית חולים נאה בישראל יפה" מטעם המועצה לישראל יפה בשנים: 1995, 1996, 1997, 1998, 1999, 2001, 2002, 2003, 2004 ו- 2006.