Родился 6 марта 1815 года в  Сибири в деревне Безруково Ишимского уезда Тобольской губернии. Учился в Петербургском университете. Окончив университет, вернулся на родину. Много лет работал учителем гимназии города Тобольска.

Печатал свои стихотворения в «Библиотеке для чтения» Сенковского и в «Современнике» Плетнёва.

Известность Ершову принесла его сказка «Конёк-горбунок», написанная им ещё на студенческой скамье и впервые напечатанная отрывком в 3 томе «Библиотеки для Чтения» 1834 года с похвальным отзывом Сенковского.

Первые четыре стиха сказки набросал Пушкин, читавший её ещё в рукописи. Сказка Ершова вышла отдельной книжкой и выдержала при жизни автора семь изданий.

Белинский видел в сказке подделку, «написанную очень недурными стихами», но в которой «есть русские слова, а нет русского духа». Существует версия, что сказка «Конёк-горбунок» целиком написана Пушкиным и выпущена под именем Ершова.

Кроме «Конька-горбунка» Ершов написал несколько десятков стихотворений.

Умер в Тобольске 30 августа 1869 года.