מרי זכריה כהן נולד בתימן בשנת תרנ"ח (1898). בעיר אלסדה בדרום תימן. עלה לארץ בשנת תרפ"ב (1922). מספר שנים עבד במושבות בבאר יעקב ובנס ציונה.
עשרות שנים שמש רב בישובי העמק ונהלל. הקים במרכז תנועת המושבים מחלקה לספוק צרכי הדת. היה חבר במועצת ההסתדרות ומזכירות תנועת המושבים. בנו בכורו, משה, התנדב לצבא הבריטי במלחמת העולם השנייה ונפל במדבר המערבי.
נפטר לפני חודש אב תשכ"ט (1969).