Po mitologiji je ime ostrva nastalo od njegovog prvog stanovnika Kimolosa. Venečani su ga nazivali “Arcentiera”, možda zbog srebrnastog tona njenih stena. U srednjem veku se ostrvo nazivalo “Ehinusa”,odnosno ostrvo mitske majke svih čudovišta Ehidne. Stari gred pre nego što će biti potopljen nalazio se na zapadnoj strani ostrva, na današnjem mestu Elinika. Sve što je ostalo od grada nalazi se na ostrvcetu Agios Andreas, preko puta Elinika, gde su na dnu mora pronađene rusevine kuća i grobnica antickog grada. Ovde je bilo stanovnika do vizantijskog perioda, o cemu svedoce nalazi iz rimskog i vizantijskog perioda. Kimolos, kao i sva ostala ostrva Kiklada je pretrpeo mnogo gusarskih naleta ali je takodje uzivao i u danima slave. Za vreme franačke vladavine Markos Sanudos je ujedinio Kimolos sa Naksosom 1207.godine Zatim su ostrvo okupirali Turci , a za vreme Rusko-turskog rata RusI (1770.-1774.god). Posle oslobođenja od turskog jarma 1828.godine,Kimolos je pripojen novoformiranoj Grčkoj državi.