במהלך השנים שחלפו בין חורבנה של החומה הראשונה עד בנייתה של החומה האחרונה, נבנו בירושלים חומות רבות. רוב החומות נבנו בהתאם ל
טופוגרפיה הטבעית של העיר ולנקודות התורפה שלה, ולכן לרבות מהן תוואי דומה, ולעתים אף זהה. לא פעם נעשה שימוש משני בחומה עתיקה כבסיס לבניית חומה חדשה, עד כדי יצירת קירות המורכבים לעתים מכמה שכבות על פי תקופות. במחצית המאה ה-19, עם תהליך היציאה מהחומות, איבדה חומת העיר חלק מחשיבותה הביטחונית.