Gonçarov, 18 Haziran 1812’de Simbirsk, şimdiki adıyla Ulaynovsk’ta doğmuştur. Babası zengin bir tahıl tüccarıdır. Moskova Ticaret Okulu’nun ardından devam ettiği Moskova Üniversitesi’nden 1834 yılında mezun olmuştur. 30 yıl boyunca devlet memurluğu yapmıştır. Bu sıralarda yaptığı çeviriler, yazdığı şiir ve kısa öykülerle edebiyat çevrelerinde yer almaya başlamıştır. İlk romanı Sıradan Bir Hikâye 1847 yılında yayınlanmıştır.

İlk parçası Oblomov’un Düşü adıyla bir dergide yayınlanan en ünlü eseri Oblomov 1859 yılında basılmış ve yayınlanır yayınlanmaz büyük ses getirmiştir.

Fyodor Dostoyevski tarafından kayda değer, itibarlı bir yazar olarak tanımlanmış, Anton Chekhov kendisinden başarılı bir yazar olarak söz etmiş, Tolstoy uluslararası başarısını öngörmüştür. Lenin, meydanlarda yaptığı konuşmalarda kitabın başkahramanı Oblomov’u Ekim Devrimi’nin mücadele edeceği düşman olarak anmıştır. Gonçarov hiç evlenmemiş, hayatının son yıllarını hasta ve yalnız geçirmiştir. 15 Eylül 1891’de St. Petersburg kentinde ölmüştür.