Instytut powołano decyzją Gubernatora Hansa Franka z dnia 20 kwietnia 1940 roku, w dniu urodzin Adolfa Hitlera. Frank sam siebie mianował prezesem Instytutu, na dyrektora wyznaczono Wilhelma Coblitza.
Planowano utworzenie dalszych filii Instytutu poza Warszawą i Lwowem. Z założenia IDO miał stanowić zalążek przyszłego niemieckiego uniwersytetu, podobnie jak utworzony w Poznaniu Reichsuniversität Posen. Jako zaplecze naukowe w organizowaniu IDO uczestniczyli pracownicy niemieckich ośrodków zajmujących się problematyką wschodnioeuropejską z Berlina, Królewca, Wrocławia i Wiednia.
Institut für Deutsche Ostarbeit posiadał kilkanaście sekcji zajmujących się rozmaitymi dyscyplinami nauki. Kilka sekcji, w tym głównie sekcja rasowa i ludoznawcza, kierowana przez antropologów austriackich, podejmowało terenowe misje badawcze.
Najbardziej kontrowersyjne z tych misji skierowano m.in. do getta w Tarnowie. Badania prowadzono również na Podhalu, ziemi sądeckiej, koloniach niemieckich powstałych na terenie Polski w XVIII/XIX w. oraz na wsiach łemkowskich. W badaniach chodziło zarówno o politykę ekonomiczną, jak i etniczną - wydzielenie grup etnicznych i segregację ludności. IDO zatrudniała przy tym miejscowych ekspertów na niższych funkcjach pomocniczych, niezbędnych z uwagi na językowe i merytoryczne kompetencje.