5岁那年，李俊甫认识到了读书的重要性。1911年，他就读于洛宁县官立高等小学堂，1916年，考入河南留学欧美预备学校（今河南大学前身）英文科。1924年，李俊甫以优异成绩公费留学美国，在加州伊利诺大学攻读化学硕士学位。4年后又在康乃尔大学研究院进行深造，终于在1931年，李俊甫获得理论化学博士学位。年轻的李俊甫目睹过祖国的满目疮痍与家破人亡，深受“五四运动”的影响，虽身在海外，仍然怀着一颗赤诚的爱国报国之心。当时正值“九一八”事变发生，李俊甫谢绝了导师的多次挽留，于1932年毅然回国，投身于抗日救亡运动中。1933年秋，李俊甫应张仲鲁校长邀请回到河南大学任教授。回国后，他在北京参加了中国共产党领导下的“马列主义小组”，并把自己留美8年的全部积蓄交给了党组织，还拿出自己任教授的一半月薪作抗战经费。这是李俊甫人生中的重要转折，怀着“科学救国”愿望的他从此开启了为共产主义事业奋斗的征程。
李俊甫多次掩护党的地下组织、营救革命同志，并引导青年参加革命。1940年，在鲁迅先生逝世纪念大会上，他和嵇文甫、王毅斋等教授发表演讲，痛斥国民党顽固派的反共媚日政策，号召师生要以鲁迅先生为榜样，坚决与顽固派的倒行逆施作斗争。不论李俊甫如何行动，他始终把党的领导放在心中，作为自己前进的方向标。但不幸的是，他的抗日爱国行动引起了国民党和日本特务的仇视，1943年，李俊甫被国民党特务组织逮捕。即使被捕，他仍不屈服，反而更加坚定了跟党走的决心。后来李俊甫被革命师生营救，河南大学的学生成群结队地到20里以外去迎接，并为他专门举行庆祝会。借此机会，他在大会上慷慨激昂地发表抗日到底演说，给予师生巨大的鼓舞。李俊甫不仅要求自己与党同行，也鼓励、带领了许多青年师生走在正确的革命道路上。1944年，日寇进攻豫西山区，河南大学被迫由嵩县潭头镇向荆紫关迁移（抗战八年，河大先后在鸡公山、镇平、潭头、荆紫关、宝鸡等地办学），在日寇随时都可能再度扫荡潭头时，时任化学系主任的李俊甫为保护国家财产，置个人生死于不顾，只身跑回潭头河南大学实验室，从尸骨瓦砾堆中拣回20多个贵重的白金锅带回，如数交给学校。在他爱国、无私精神的感染下，他率领化学系青年教师卢锦梭、陈西河等6名师生，再次连夜返回潭头，掩埋好被害师生的尸体，将学校一些设备、仪器、图书打包装箱，雇人运送到安全地带。李俊甫对待祖国和党的事业，始终满腔热血、毫无怨言。
抗战胜利后，蒋介石撕毁协议，向解放区发动疯狂进攻。在革命的紧急关头，李俊甫于1946年8月正式加入了中国共产党。1948年6月开封第一次解放后，李俊甫和著名民主人士嵇文甫、王毅斋、罗绳武等摆脱国民党反动派的监视，投奔中原解放区，联合发表了告国统区知识分子的公开信，这对当时的广大知识分子认清形势，为积极迎接新中国的诞生而投入革命阵营，起到了极大的作用。1949年北平和平解放时，他被派为党代表，进驻北平高等学校。后经河南省委多次交涉，李俊甫回到河南大学主持理学院及化学系工作，直到1956年被任命为新乡师院的院长。虽是一条布满荆棘的路，但李俊甫走出了勇字当头的气势，为了祖国的崛起多次牺牲个人利益，自始至终与党和国家站在一起，他的精神与品质感动了代代师生，也不断熏陶着一批批爱国青年。