Prvá písomná zmienka o existencii školy v Malej Ide je z roku 1890, keď v budove „panského dvora“ otvorili cirkevnú jednotriedku. Napriek slovenskému osídleniu lokality bola vyučovacím jazykom maďarčina. Vyučovaním bol poverený Leopold Komárek.
Do roku 1890 navštevovali deti z Malej Idy školu v Poľove spolu s deťmi z celej farnosti.
V roku 1892 bola dokončená stavba novej školskej budovy za potokom pri ceste do Šemše. 1. septembra 1892, keď sa v nej začalo vyučovanie, boli do nej pričlenené aj deti z Lorinčíka. Tie do školy v obci dochádzali až do roku 1929. Po Komárekovej smrti bola v obci zriadená kantorská stanica. Za učiteľa bol zvolený Karol Kreiger, ktorý v škole pôsobil 44 rokov.
Materinský slovenský jazyk sa stal v Malej Ide vyučovacím až v roku 1919.
V roku 1931 sa škola stala dvojtriednou. Vyučovalo sa na dve smeny. V druhej triede začala učiť miestna rodáčka Alžbeta Janitorová.
14. septembra 1936 bol posvätený základný kameň dvojtriednej školy na pozemku Spišského biskupstva a kapituly – naproti starej budove školy za potokom. V novej poschodovej budove sa začalo učiť o tri roky neskôr – 4. septembra.
Viedenskou arbitrážou bola obec pričlenená k Maďarsku. V škole bolo vytvorené slovenské a maďarské oddelenie. 20. januára 1945 bola dedina oslobodená. Vyučovanie bolo obnovené 1. marca 1945. Obe triedy boli slovenské. Druhú triedu štátnej národnej školy viedla Marta Krafčíková, rodáčka z Lorinčíka. Od Jozefa Valenta Jankovského preberá riaditeľskú agendu štátnej národnej školy Mária Kropuchová, dočasná učiteľka v Poľove.
V Malej Ide pôsobí do 9. júna 1945. Na uvoľnené miesto bol Školským inšpektorátom I. v Košiciach pridelený Andrej Bačenko, ktorý v obci pôsobil do 1. septembra 1949.
7. februára 1949 bola v dedine zriadená neúplná stredná škola. Do jej obvodu patrila aj Šemša a Hodkovce. Od školského roku 1949/50 pribudol aj Poľov. Po úspešnom ukončení piateho ročníka postupovali školopovinné deti do neúplnej strednej školy. Tá bola umiestnená na poschodí národnej školy. Riaditeľkou neúplnej strednej školy sa stala Gabriela Ružbacká.
V školskom roku 1945/50 navštevuje školu 70 žiakov. Neúplná stredná škola je dvojtriedna. Na učiteľské miesto nastupuje Vojtech Cap, ktorý sa po doplnení vzdelania stáva riaditeľom. Po jeho odchode v marci 1951 je do funkcie riaditeľa menovaná Genovéva Capová. V školskom roku 1954/55 navštevovalo školu 146 žiakov. Výchovno-vzdelávací proces zabezpečovalo 6 učiteľov. Od roku 1955 je riaditeľom osemročnej strednej školy Štefan Kohút. Po jeho preložení do Starej Lesnej sa v roku 1959 stáva riaditeľom Andrej Šafranko.
V školskom roku 1964/65 dostali žiaci prvýkrát bezplatne učebnice a školské pomôcky. V septembri 1964 sa ujal funkcie riaditeľa školy Dezider Pindroch.
V tomto období bola otvorená školská jedáleň, v ktorej sa stravovalo v priebehu roka 42 až 45 žiakov a 9 až 11 učiteľov. 235 žiakov sa vzdelávalo v troch budovách – v starej budove, v novej a v „baraku“.
V máji 1966 sa začalo s výstavbou 15 triednej školy a šiestich bytov pre učiteľov. V novej škole začalo vyučovanie 5. februára 1968. Učí sa v nej dodnes. Školské objekty tvoria 3 pavilóny s 15 kmeňovými učebňami, 1 pavilón s odbornými učebňami, 1 pavilón s telocvičňou a administratívny pavilón s jedálňou. Súčasne bola odovzdaná poschodová učiteľská bytovka.
Po odchode D. Pindrocha k 1. 9. 1968 sa stáva riaditeľom školy František Slobodník a jeho zástupcom Štefan Maček. K 1. septembru 1969 boli do školy v Malej Ide pričlenení žiaci z Nováčan, ktorí dovtedy navštevovali ZDŠ v Jasove.
V školskom roku 1970/71 dosiahli maloidianskí žiaci v okresných kolách súťaží výrazné umiestnenia – 1. miesta v matematickej a fyzikálnej olympiáde a 3. miesto v chemickej olympiáde.
V školskom roku 1971/72 boli do ZDŠ Malá Ida pričlenení žiaci 2. stupňa z Bukovca, ktorí dovtedy plnili školopovinnosť v ZDŠ Myslava.
V školskom roku 1972/73 boli žiaci z Poľova definitívne včlenení do obvodu Košice – mesto.
Po odchode Štefana Mačeka z Malej Idy v apríli 1972 sa zástupcom riaditeľa školy stal Juraj Petrík. 6. augusta 1972 náhle zomrel vo veku 41 rokov riaditeľ ZDŠ František Slobodník. Jeho nástupcom sa stal Juraj Petrík. V škole bola zriadená izba regionálnych dejín.
V septembri 1978 boli do ZŠ v Malej Ide integrovaní všetci žiaci zo ZŠ Bukovec.
Najväčšie úspechy dosiahli maloidanskí žiaci v osemdesiatych a deväťdesiatych rokoch 20. storočia. Výchovno-vzdelávacie výsledky i umiestnenia žiakov vo vedomostných, umeleckých a športových súťažiach dostávali školu do povedomia verejnosti okresu. Modernizácia výchovy a vzdelávania, efektívnosť práce odrážajúca sa vo vedomostnej úrovni a celkovej vychovanosti žiakov, estetická úroveň interiéru a exteriéru školy dali jej prívlastok pilotná.
1.júla 1986 sa riaditeľ školy Mgr. Juraj Petrík stal vedúcim Odboru školstva Okresného národného výboru Košice – vidiek. Do riaditeľskej funkcie bol menovaný Mgr. Ján Berežný. 1. júla 1991 sa do vedenia školy dostáva Mgr. Ľubica Korečková. Po štyroch rokoch – 1. júla 1995 sa do vedenia školy opätovne dostáva Mgr. Ján Berežný.
V roku 1999 a 2000 bola škola plynofikovaná a v roku 2001 boli školské objekty pripojené na obecný vodovod a kanalizáciu. V rokoch 2003 – 2005 boli prvýkrát zabezpečené finančné prostriedky na výmenu drevených okien za plastové. Zároveň boli finančné prostriedky využité na opravu strešnej krytiny na štyroch pavilónoch. Od 1. apríla 2002 má škola právnu subjektivitu. V roku 2004 bola zriadená prvá učebňa výpočtovej techniky. Od roku 2008 sa výchovno-vzdelávací proces v ZŠ Malá Ida realizuje podľa nového školského vzdelávacieho programu.
V roku 2009 sa riaditeľkou školy stáva RNDr. Katarína Vojkovská. V materiálno-technickej oblasti bola zriadená druhá počítačová učebňa a z kapitálových prostriedkov získaných od OÚ v Malej Ide boli zakúpené 4 interaktívne tabule. Pokračuje sa v postupnej výmene poškodených drevených okien za plastové, vymenené boli aj všetky vchodové dvere na pavilónoch za hliníkové, čím sa významne prispelo k šetreniu energiou. Kabinety, zborovňa a školská knižnica sa priebežne dopĺňajú novými učebnými pomôckami a informačno-komunikačnými technológiami, v triedach je postupne vymieňaný školský nábytok (lavice, stoličky, školské katedry), a to za výraznej pomoci Občianskeho združenia Idanka.
Vo výchovno-vzdelávacej činnosti dosahujú žiaci dlhodobo významné úspechy v predmetových súťažiach, v tvorbe školského časopisu, v školských vystúpeniach pre obec a v projektovej činnosti. Škola so cťou obstála aj v komplexnej a následnej inšpekcii vykonanej v základnej škole v rokoch 2009 a 2010. Omladený, ambiciózny a tvorivý učiteľský kolektív je s podporou rodičovskej verejnosti i obecných úradov obcí, z ktorých deti sú vzdelávané v ZŠ Malá Ida, zárukou pozitívneho trendu vývoja edukácie.