De gladde slang heeft een ruime verspreiding in Europa. De soort komt in het westen voor in Zuid-Engeland en naar het oosten loopt de verspreiding door tot in West-Azië. De noordelijke verspreidingsgrens loopt door het zuidelijke deel van Scandinavië. In Zuid-Europa kan de soort tot in het zuiden van Spanje, Italië en Griekenland worden aangetroffen. De gladde slang komt voor van bijna zeeniveau in Noordwest-Europa tot op een hoogte van 2200 meter in Zuid-Europa.

In grote delen van zijn verspreidingsgebied is het een gewone soort van droge, stenige en bergachtige terreinen. In het noordwestelijk deel van Europa is het een zeldzamere soort van voornamelijk droge heidevelden (Gasc et al. 1997). Op een aantal plaatsen in Nederland vormt de gladde slang één populatie met de slangen aan de Duitse en Belgische kant van de grens.

Van de gladde slang zijn naast de nominaatvorm (Coronella austriaca austriaca), die in ons land voorkomt, nog twee Zuid-Europese ondersoorten beschreven, namelijk C. a. acutirostris in Noordwest-Spanje en Noord-Portugal en C. a. fitzingeri in Zuid-Italië en Sicilië.