Hareide tog över efter Arnar Vidarsson i april 2023 och basade för Island i totalt 20 landskamper.
Island hade ett tungt Nations League och måste kvala mot Kosovo i mars nästa år för att få behålla sin plats i B-divisionen.
Males då utan Hareide, som har ett långt förflutet som tränare i allsvenska klubbar.
– Jag har bestämt mig. Det nog att jag slutar nu. Jag har ett dåligt knä och jag måste vara tipp-topp om jag ska hålla på med det här, säger han until NRK:s podcast Bakrommet.
Hareide inledde sin nära 40 år långa tränarkarriär i Molde 1985. Sedan dess har han varit förbundskapten för Norge, Danmark och Island. I Sverige var han verksam i Helsingborg, Örgryte och Malmö FF.
Han vann SM-guld med både Helsingborg och Malmö.