איש שירות החוץ. בתפקידו האחרון. שירת כמנכ"ל משרד החוץ (אפריל 2001- נובמבר 2002), קודם לכן שירת כמנכ"ל המשרד לפיתוח אזורי, סמנכ"ל מרכז פרס לשלום, כמנהל לשכת משרד ראש הממשלה ובתפקידים בכירים נוספים .היה מעורב באופן ישיר בתכנון מדיניות ישראלית ובתהליך השלום ובכלל זה תהליכי המשא ומתן שהובילו להסכמי אוסלו ולחתימת הסכם השלום עם הממלכה הירדנית. בעל תואר מוסמך במדע המדינה מהאוניברסיטה העברית וביה"ס לממשל באוניברסיטת הרוורד (מנהל ציבורי).
תת-אלוף במילואים. השתחרר באוגוסט 2010 משירות ארוך בצה"ל שכלל, בין השאר, לחימה כחייל חי"ר במלחמת יום הכיפורים, מסלול ארוך באגף המודיעין (אמ"ן), ראש החטיבה לתכנון אסטרטגי באגף תכנון (אג"ת), המזכיר הצבאי לשר הביטחון וראש מטה שר הביטחון (סה"כ שש שנים בשני התפקידים האחרונים, עם ארבעה שרי ביטחון).
תא"ל (מיל.) הרצוג נטל חלק בכל שיחות השלום של ישראל עם הפלסטינים, הסורים והירדנים מאז 1993. בין מאי 2009 למרץ 2010 שימש כשליח מיוחד של ראש הממשלה ושר הביטחון במאמצים להניע את התהליך המדיני.
שימש ומשמש גם כעמית מחקר ב- Washington Institute for Near East Policy.