מסורת אבותינו הקדומה ידועה כמסורת שמרנית וקנאית למנהגיה היותר ראשונים, דוגמה לשימור מסורות קדומות אצל יהודי תימן ניתן להביא מרבנו הרמב"ם שפסק בהלכות תפלין מזוזה וספר תורה: "אמרו עליו על רב תלמיד רבנו הקדוש, שכל ימיו לא ראוהו שהלך ארבע אמות בלא תורה, או בלא ציצית, או בלא תפילין". ויהודי תימן לא הסירו מצוות אלה מעליהן אלא דבקו בהם והתמידו ככל שניתן. הגר"י קאפח זצ"ל תיאר את יהודי תימן כשומרי מסורת אבות אדוקים, וז"ל: "והנה מסורת קדומים נפלאה נשתמרה רק בידי יהודי תימן כפי שנשתמרה מסורת האמת".
