"המכון האוניברסיטאי של חיפה" הוקם בשנת 1963 בחסות האקדמית של האוניברסיטה העברית בירושלים, ביוזמת ראש עיריית חיפה אבא חושי ומנהל מחלקת החינוך העירונית, משה רינות ובאחריותה התקציבית של העירייה.

ההסכם על הקמת המכון קבע כי המכון יעניק לבוגריו בפקולטה למדעי הרוח ובפקולטה למדעי החברה תואר בוגר אוניברסיטה של האוניברסיטה העברית. מקום משכנו של המכון היה בבית ארדשטיין ברחוב י. ל. פרץ שבהדר הכרמל.

"המכון האוניברסיטאי של חיפה" זכה להצלחה כבר בשנותיו הראשונות ותלמידים רבים מצפון הארץ ביקשו ללמוד בו. תוך שנים ספורות נעשה הבית צפוף מלהכיל את כל הסטודנטים. בעקבות זאת, הועבר המכון האוניברסיטאי לכרמל, למבנה שבו שוכן בשנות האלפיים בית הספר "עירוני ה".

באוקטובר 1965 נכתבה מגילת אבן הפינה לקמפוס במקומו הנוכחי, שנבנה על אדמות הח'רייבה שנרכשו על פסגת הכרמל, והיה מיועד להיות שטח ירוק. המנכ"ל והנשיא הראשון של האוניברסיטה היה אליעזר רפאלי.