שער שכם יושב על שער קדום יותר, הוא שער הניצחון הרומי של העיר אליה קפיטולינה, שעמד גם הוא על שרידי שער מתקופת בית שני. מול השער הרומי היה מוצב עמוד ניצחון (לאחר דיכוי מרד בר-כוכבא) וממנו היו מודדים מרחקים לערים מרכזיות ברחבי ישראל. עד היום הזה שמו הערבי של השער הוא „באב אל עמוד“. הרחוב והכיכר מצוינים במפת מידבא מן המאה ה-6 או ה-7 לספירה.
