אלי רהב נולד בשנת 1940 בישראל. בשנת 1958 התגייס לצה"ל וכבוגר בית הספר לקציני ים בעכו הוצב לשירות בחיל הים. בשנת 1959 סיים קורס חובלים והוסמך כקצין ים. בשנים 1961-1959 שירת בשייטת המשחתות על אניות חיל הים אילת וחיפה ולאחר מכן עבר לשייטת ספינות הטורפדו.
בשנים 1963-1961 פיקד על ספינת טורפדו במפרץ אילת, בתום תפקידו הועבר לבה"ד חיל הים ושימש כמדריך בבית הספר לחובלים. בשנים 1968-1966 שימש כסגן מפקד פלגה 914 בשייטת ספינות הטורפדו ובכלל זה במלחמת ששת הימים. כחודש לאחר המלחמה הוביל כוח של זוג ספינות לסיור מול חוף רומני בצפון סיני ונתקל בספינות אויב. בקרב שהתפתח במקום ובסיוע המשחתת אילת, טובעו שתי ספינות טורפדו מצריות.
בשנים 1970-1968 פיקד על ספינת הטילים (סטי"ל) חיפה מדגם סער-2 ובשנים 1972-1970 שימש כמדריך ראשי בבסיס ההדרכה של החיל בחיפה. בשנים 1974-1972 פיקד על פלגה 35 בשייטת הסטי"לים (שייטת 3). במסגרת כהונתו השתתף בהובלת הלוחמים שפשטו על יעדי מחבלים בביירות במבצע אביב נעורים.
בהמשך הוביל את הפלגה במלחמת יום הכיפורים בשורה של קרבות ימיים. הוא לחם נגד הצי המצרי מול חופי פורט סעיד ודמיאט, בהפגזת חוות המכלים בעיר החוף הסורית בניאס ובהפגזת מטרות צבאיות לאורך חופי מצרים. בשנים 1976-1974 פיקד על שייטת 3 ובתום תפקידו יצא לשנת לימודים במכללת הצי האמריקני לפיקוד ומטה. בסיום לימודיו שב לארץ ובשנים 1979-1977 עמד בראש מחלקת אמצעי לחימה במפקדת החיל.
בשנים 1981-1979 פיקד על בסיס חיל הים בחיפה בדרגת תת אלוף. בשנים 1982-1981 עמד בראש מספן ים ובתום תפקידו מונה למדריך במכללה לביטחון לאומי (מב"ל). בשנים 1985-1983 שימש במקביל להיותו מדריך גם כסגן מפקד מב"ל. בשנת 1985 השתחרר משירות קבע בצה"ל.