Ранні роки майбутній художник провів серед полів і степових краєвидів Слобожанщини, що відобразилися пізніше в його монументальних композиціях. Учасник Великої Вітчизняної війни.
У 1954 році Литовченко завершив навчання у Львівському інституті прикладного та декоративного мистецтва, де його наставниками були Роман Сельський, Вітольд Манастирський, Іван Севера та Євген Арофікін. Саме тут він опанував техніку гобелена, мозаїки й декоративного розпису.
Протягом 1950–1970-х рр. Литовченко створив низку знакових декоративних ансамблів у Києві та інших містах: мозаїчні панно на центральному залізничному вокзалі станції «Київ-Пасажирський» (1955); оздоблення інтер’єрів станцій метро «Більшовик» (нині «Шулявська», 1963) і Київського річкового вокзалу (1961); геральдичні гобелени для Національного музею українського народного декоративного мистецтва «Україна в сім’ї братніх республік» (1957) та сорока інших громадських споруд. Монументальні мозаїки та декоративні панно майстра досі прикрашають вулиці й станції, формуючи обличчя «радянської модерності» в архітектурному середовищі України.
Наймасштабніший проєкт — художнє оформлення міста Прип’ять (1974–1982) — це серія мозаїчних рельєфів і скульптур, що втілювали ідеї «мирного атома» й науково-технічного прогресу доби. Ці твори дотепер залишаються мовчазними свідками техногенних і гуманітарних трагедій України.
Іван Литовченко брав активну участь у республіканських, всесоюзних та закордонних художніх виставках. Мистець залишив унікальний слід в українському та світовому мистецькому просторі — його твори поєднують ідеї прогресу з народними традиціями, створюючи естетичний діалог між матеріалом і глядачем. Монументальні й декоративні твори Литовченка представлені не лише в музейних колекціях, але й на щоденних маршрутах киян і гостей столиці.