היחסים בין הרבניים ובין הקראים היו מורכבים. הרבניים והקראים בארץ ישראל הרבו להתקוטט ביניהם, עד כי השלטונות נאלצו לעתים להתערב. ב
מצרים, לעומת זאת, שררו יחסים ידידותיים, במיוחד בקרב השכבות הגבוהות. ככלל, הקראים חשו ופעלו כחלק אינטגרלי מהקהילה הכלל-יהודית. כך, למשל, נישואים בין הרבניים והקראים היו שכיחים. כמו כן, היו גאונים שביקשו וקיבלו סיוע פוליטי וכספי מנכבדים קראיים. היו גם תעניות ותפילות משותפות בעת צרה, וגם איסופי כספים משותפים. אדם אשר תרם הן לרבניים והן לקראים זכה לתואר "פאר שתי הפאות". יחסם של מנהיגי הרבניים לקראים היה לרוב שלילי, כאשר הפולמוסן הגדול בסוגיה זו היה רב סעדיה גאון.