Zarakas grundades på en strategiskt viktig plats där det redan fanns bosättning under förhistorisk tid. Enligt traditionen fick staden sitt namn efter den mytiske hjälten Zarikas. Under antiken låg staden ofta i centrum för konflikterna mellan Argos och Sparta, vilket ledde till uppförandet av dess imponerande befästningar under den hellenistiska perioden. Efter slaget vid Thyrea kom staden under spartanskt styre, senare tilldelades den Argos av Filip II efter slaget vid Chaironeia, och år 272 f.Kr. utsattes den för omfattande förstörelse av Kleonymos. Några årtionden senare, år 219 f.Kr., misslyckades den spartanske kungen Lykurgos med att inta staden tack vare dess exceptionellt starka försvarsanläggningar. Under romersk tid tillhörde Zarakas De Fria Lakoniernas Förbund och fortsatte att vara bebodd trots sin gradvisa nedgång. Under senantiken uppfördes en tidig kristen basilika på akropolis, och under den bysantinska perioden tillhörde området metropolitdömet Monemvasia. Idag är den arkeologiska platsen ett av Lakoniens viktigaste historiska och arkeologiska landmärken.