Zarakas blev grundlagt på en strategisk beliggenhed, hvor der allerede havde været bosættelse i forhistorisk tid. Ifølge traditionen blev byen opkaldt efter den mytiske helt Zarikas. Gennem antikken lå byen ofte i centrum for konflikterne mellem Argos og Sparta, hvilket førte til opførelsen af dens imponerende fæstningsværker i den hellenistiske periode. Efter slaget ved Thyrea kom byen under spartansk herredømme, senere blev den tildelt Argos af Filip II efter slaget ved Chaironeia, og i 272 f.Kr. blev den alvorligt ødelagt af Kleonymos. Nogle årtier senere, i 219 f.Kr., mislykkedes den spartanske konge Lykurgos med at erobre byen på grund af dens usædvanligt stærke forsvarsværker. I romersk tid tilhørte Zarakas De Frie Lakoniers Forbund og forblev beboet trods sin gradvise tilbagegang. I senantikken blev en tidlig kristen basilika opført på akropolis, mens området i den byzantinske periode hørte under Monemvasias metropol. I dag er stedet et af Lakoniens vigtigste historiske og arkæologiske monumenter.