Manastir je podignut na mestu na kojem se do tog trenutka nalazila jedna šuplja bukva u koju se smestio pustinjak Joanikije, danas slavljen kao Sveti Joanikije Devički, čovek rodom iz Zete ili Dalmacije, koji je napustio svoj dom i povukao se u Crnu Reku, gde se tokom trinaestog stoleća podvizavao prepodobni Petar Koriški. Ali, kako je glas o njemu počeo da se širi narodom, i kako je narod počeo da nagrće da ga vidi, on je pobegao i sakrio se u gustu Devičku šumu. U pomenutu šuplju bukvu koja je postala njegov dom.

Devič je poznat po legendi da ga je podigao sam despot Đurađ Branković u 15. veku nakon što mu se kći iscelila, po čemu je i dobio ime. Kako se navodi u legendi, Sveti Joanikije Devički izlečio je kći Đurađa, jer u to vreme je on bio jedini koji je lečio "besomučnike".

Ćerka je bila devica, neudata, zbog čega je novopodignuti manastir i dobio ime "Devič". 

Kroz istoriju manastir Devič više puta je bio rušen i pljačkan. Srušen je od strane Austro-ugarske 1915. godine i ponovo paljen od stane albanskih terorista 1984. godine. Upravo zbog čestih napada, veruje se da ovaj manastir odleva svim nedaćama, a legenda o isceljenju mnogih prenosi se sa kolena na koleno.

Već decenijama, tradicionalno, narod se okuplja na Petrovdan oko manastirske crkve. Ovaj događaj je veoma značajan za lokalno stanovništvo, upravo jer na ovaj način pokazuju jedinstvo i snagu vere i Srba na Kosovu i Metohiji.