יעקב ארז נולד בשנת 1936 בפולין. בתחילת מלחמת העולם השנייה נמלט עם משפחתו לשטח ברית המועצות ובשנת 1948 עלה עמה לישראל. בשנת 1955 התגייס לצה"ל והוצב בחיל התותחנים בו עשה את עיקר שירותו הצבאי. במערכת סיני שימש כקצין תצפיות קדמי במסגרת סיוע שנתן לגדוד 13 של חטיבת גולני בקרב לכיבוש המוצבים המצריים ברפיח. לאחר המלחמה מילא שורה של תפקידי פיקוד ומטה בחיל ובכלל זה מפקד סוללה וסגן מפקד גדוד תותחים 404.
בשנת 1967 היה חניך במכללה הבין זרועית לפיקוד ומטה (פו"ם) ובמינוי משני שימש מפקד גדוד תותחים מתנייעים 822. בזמן לימודיו פרצה מלחמת ששת הימים והוא שימש מפקד הסיוע של חטיבת השריון במילואים 520 שלחמה בסיני. בשנים 1969-1967 עמד בראש ענף אימון חוגרים בבית הספר לתותחנות (בה"ד 9).
בשנים 1970-1969 פיקד על גדוד תותחים מתנייעים 402 ולחם עמו נגד המצרים בחזית התעלה במלחמת ההתשה. בשנים 1971-1970 עמד בראש ענף אימון מקצועות בבה"ד 9 ובמינוי משני פיקד על גדוד תותחים 829. בשנים 1973-1971 שימש כמפקד התותחנים הפיקודי של פיקוד הדרום.
בקיץ 1973 התמנה למפקד אגד ארטילרי 209 שהיה כפוף לאוגדה הסדירה 252 בסיני בדרגת אלוף משנה. זמן קצר אחר כך פרצה מלחמת יום הכיפורים והאגד בפיקודו נתן סיוע למעוזים הנצורים והשתתף במאמצים לבלום את הכוחות המצריים. בהמשך ירד עם האגד לחזית הדרומית של התעלה ולחם עמו נגד הארמייה השלישית המצרית. לקראת סוף המלחמה צלח את התעלה ונתן לאוגדה סיוע ארטילרי בקרב ההבקעה שלה בשטח מצרים.
בשנים 1976-1974 היה מדריך בפו"ם ובמינוי משני שימש תחילה כמפקד אגד ארטילרי 449 שהוכפף לאוגדת השריון במילואים 880, ובהמשך כמפקד הסיוע של גיס 446. בשנים 1977-1976 שימש כקצין מטה של חיל התותחנים במפקדת גייסות השריון ובמינוי משני שימש כקצין הסיוע של גיס 479. בשנת 1977 השתחרר משירות קבע בצה"ל.
הוא נפטר ב-29 בפברואר 2020.