יוסי יפה נולד בשנת 1935 בישראל. בשנת 1953 התגייס לצה"ל ובמסגרת שירותו בנח"ל הוכשר כלוחם וכמפקד כיתה. בשנת 1955 עבר לשירות בגדוד 890 של הצנחנים והשתתף במסגרתו בשורה של פעולות תגמול מעבר לקווי האויב.
בשנת 1956 הוסמך כקצין חי"ר ובתום הקורס שב לגדוד כמפקד מחלקה. זמן קצר אחר כך השתתף במבצע שומרון שבמהלכו פשטה חטיבת הצנחנים על משטרת קלקיליה ופוצצה אותה. הוא נפצע בפעולה באורח קשה ובשל אשפוזו הממושך נמנע מלקחת חלק במערכת סיני. לאחר התאוששותו מהפציעה שב לשרת בפלוגת הסיור בגדוד ובשנים 1958-1957 פיקד עליה.
בשנת 1958 השתחרר משירות בצה"ל והוצב בגדוד 98 בחטיבת הצנחנים במילואים 80. בשנים 1965-1958 פיקד על פלוגה בגדוד והוביל את לוחמיה מעת לעת בתעסוקה מבצעית בגבולות. בשנים 1967-1965 שימש כממלא מקום מפקד גדוד 66, תחילה בחטיבה 80 ולאחר מכן בחטיבת הצנחנים במילואים 55. במלחמת ששת הימים פיקד על גדוד 55 בלחימה בירושלים והוביל אותו בקרבות העקובים מדם בבית הספר לשוטרים ובגבעת התחמושת ובכיבוש העיר העתיקה.
בשנים 1975-1967 פיקד במינוי מלא על הגדוד, שקיבל לאחר המלחמה את המספר 564 בחטיבה 55 שהפכה לחטיבה 247. במלחמת ההתשה אייש במשך חודשים ארוכים את המעוזים בקו בר לב שעל גדת תעלת סואץ. בנוסף, עסק בבניית דרכי פלסטיק באזור הביצות בגזרה הצפונית שלה, ובפרט בדרך שקישרה בין בלוזה לקנטרה. עם פרוץ מלחמת יום הכיפורים נשלח עם הגדוד לחזית המצרית והוביל את לוחמיו בהיתקלויות עם חוליות קומנדו מצרי בגזרה הצפונית של התעלה ובמשימות אבטחה על מרחב בלוזה. בשלהי המלחמה צלח עם הגדוד את התעלה, עסק במשימות טיהור בחיץ החקלאי ולבסוף לחם בקרב לכיבוש העיר סואץ. במהלך הקרב בשטח הבנוי בו הוא גם נפצע, התבצר הכוח בפיקודו בתחנת המשטרה המקומית וחולץ רק לאחר מאמץ ממושך.
בשנים 1977-1975 שימש כסגן מפקד חטיבת הצנחנים במילואים 247 שלאחר המלחמה קיבלה את המספר 623. בתום תפקידו מונה לקצין מטה במפקדת קצין חי"ר וצנחנים ראשי ועסק בהקמת חטיבת הנ"ט 409 בהתבסס על לקחי המלחמה.
ב-28 בפברואר 1977 הוא נהרג בעלות רכבו על מוקש במהלך סיור שערך באזור ניצנה במסגרת תפקידו.