以印第安人伊利諾伊部落之名（Iliniwek）命名，意思是戰士。考古證據表明早在公元前1萬年就有人類活動。10-14世紀南方的卡霍基亞出現了城市型聚落，例如卡霍基亞遺址。
17-18世紀法國探險家沿着密西西比河溯流而上，進入伊利諾伊中西部開展貿易，並開闢了密西西比河經伊利諾伊河進入五大湖區的貿易通道，期間建立了皮奧里亞等定居點。此後法國將伊利諾伊納入新法蘭西殖民地。
1756-1763年的七年戰爭中法國戰敗，將五大湖區和加拿大割讓給英國，但英國頒布禁止墾殖的禁令，不允許北美東岸十三個殖民地的居民遷入。美國獨立戰爭期間，美軍曾試圖進軍此地區，但沒有證據表明美軍長期占領過該地。戰後，1783年的巴黎條約將密西西比河以東的英國殖民地割讓與美國，其中包括伊利諾伊。此後伊利諾伊屬於西北領地。
1809年2月3日，伊利諾伊領地成立。領地成立後歐洲人開始大量定居在伊利諾伊，由於彼時陸路交通不便，人們在中西部的交通主要依靠河流，所以位於密西西比河和俄亥俄河交匯處的南部成為伊利諾伊早期的經濟和人口中心，因此這一地區劃設的縣普遍比北方的小。1818年12月3日，伊利諾伊成為美國的第21個州，但原屬於伊利諾伊領地的北部地區被分割出來，成立威斯康辛領地。直到此時，伊利諾伊仍舊是邊疆地區，大部分地區仍然由契卡波、卡霍基亞和伊利尼維克等部族的印第安人控制。
1832年4月發生黑鷹戰爭，為美國政府與美洲原住民之間的戰爭。蘇族領導者黑鷹，率領密西西比河兩岸的數個蘇族部落，在伊利諾伊州與愛荷華州一帶，與美國政府作戰。雖然戰爭伊始印第安人主要針對入侵的定居者和殖民者，且無意對抗美國政府，但美國政府仍舊將印第安人視為威脅和野蠻的象徵，加上印第安人遷移法的通過及其引發的不人道的強迫遷移，黑鷹不得不對抗聯邦政府以保護他的族人。雖然印第安人對殖民者和美軍造成相當大的打擊，但原住民部落聯軍最終遭擊敗。
1834年林肯當選為州議員開始其政治生涯，因此該州也被稱為「林肯之地」（Land of Lincoln）。林肯在該州的主要活動區域是中部的迪凱特、春田以及布魯明頓。其中迪凱特是其在伊利諾伊的第一個定居地，春田則是他經營律師事務所和在政壇上嶄露頭角的地方。另外，伊利諾伊州的林肯市是第一個以他的名字命名的城鎮。
1880-1920年間伊利諾伊州和芝加哥經歷了經濟發展的黃金時代，芝加哥人口迅速增長，與此同時伊利諾伊州多個城市成為了工業城，包括喬利埃特和羅克福德就是在這一時期成為工業區。到1920年，伊利諾伊州已經出現兩個大型都會區，分別是芝加哥和聖路易斯的都會區，這裡的聖路易斯的都會區是指其在伊利諾伊州的延伸部分，包括格拉尼特城和東聖路易斯。
1957年，芝加哥附近的阿貢國家實驗室啟動了美國的第一個實驗性核發電系統，至今有11家核電站正在運營，伊利諾州的核電發電量為全美第一。
1960年，Ray Kroc在Des Plaines開設了第一家麥當勞專賣店（它仍然是一家博物館，在街對面有麥當勞）。
1970年代開始，伊利諾伊州經歷了去工業化和逆城市化帶來的衰退，多個城市因為稅收銳減和市中心空心化出現了高犯罪率和高空置率的問題。其中一些城市因犯罪臭名昭著，如東聖路易斯和斯普林菲爾德。