העיר גבלה היא מן הערים העתיקות ביותר בתימן, וידוע כי היא נוסדה בשנת 1065-1066 על ידי אלסיידה חורה, האשה הגברתנית מבית צליחה. גבלה נחשבת ריש גלותא, דהיינו, המקום הראשון בו התיישבו היהודים בהגיעם לתימן, יחד עם הישובים הבאים: חגבה, חמדה, די סעיד, אללסי, מכלבאן, נגיד, ת'גיף ותנעם.
עפ"י המסורת שכתב הסופר המוסלמי עמארה (1121- 1174), לפני שהקימו המוסלמים את העיר חי במקום יהודי קדר. עפ"י מקורות ערביים שפרסם טובי, הרי הישוב גבלה נקרא על שמו של יהודי בשם גבלה, מוכר כלי חרס, והישוב נבנה במאה הי"א במקום הנקרא דאר אלעז.