המכון נוסד בכנס מיוחד במרץ 1992 על-ידי פרופ' ד"ר מרים גיליס-קרליבך לזכר אביה, הרב הראשי האחרון של קהילת המבורג-אלטונה ואחת הדמויות המובילות בתנועת הרבנים האורתודוקסיים בגרמניה לפני השואה ובמהלכה.
הרב קרליבך, שהיה תלמיד חכם, מחנך, מדען, מחבר ונואם נלהב, ייצג באופן מלא בחייו וביצירותיו את אופן המנהיגות והפילוסופיה של ערכי התורה והמדע.
מכון יוסף קרליבך באוניברסיטת בר-אילן הוא מוסד אקדמי-חינוכי בתחומי מחשבת ישראל, המורשת הרבנית והיסטוריה של יהודי גרמניה.
המכון שואף לתרום להבנה ושיתוף פעולה אקדמי בין ישראל לגרמניה, בין היתר בהוצאה לאור של מחקרים ובארגון כנסים, סדנאות וסמינרים לחוקרים דוברי גרמנית.
המכון שומר על קשרים שיתופיים עם מוסדות אקדמיים בארץ ובחו"ל, לרבות עם חוג קרליבך באוניברסיטת המבורג ועם המכון להיסטוריה של יהודי גרמניה.