Народився в селi Пашенна на Полтавщині. У 1816—1821 рр. навчався в Харківському університеті. В 1822—1827 рр. вдосконалював  математичну освіту у Франції: слухав математичні курси на Паризькому факультеті наук і в Коллеж де Франс, що дозволило йому називати своїми вчителями таких великих французьких учених, як О.Л.Коші, Л.Пуансо, Ж.Ф.М.Біне, Ж.Ш.Ф.Штурма, Г.Ламе. З 1828 р. М.В.Остроградський працював у Петербурзі: у Морському кадетському корпусі, з 1830 р. — в Інституті корпусу інженерів шляхів, з 1832 р. — професор Головного педагогічного інституту, з 1840 р. — професор Головного інженерного училища, з 1841 р. — професор Головного артилерійського училища.Праці М.В.Остроградського присвячено аналітичній механіці, гідромеханіці, теорії пружності, небесній механіці, математичній фізиці, математичному аналізу і теорії диференціальних рівнянь. Розвинув теорію хвиль на поверхні важкої ідеальної рідини (1826). Досліджував малі коливання пружних тіл (1829—1832).

 На М.В.Остроградського великий вплив справила французька математична школа. Перебуваючи у Франції, своїм обдарованням він привернув увагу знаменитих учених Лапласа, Фур’є, Ампера, Пуассона, Коші, опублікував у французьких математичних виданнях перші свої праці. Деякий час викладав математику в Колегіумі Генріха IV. На прохання батька повернувся до Росії і незабаром блискучим математичним хистом і глибоким ознайомленням з математичною літературою привернув увагу Петербурзької Академії наук, що в 1828 р. обрала його ад’юнктом, а через два роки — академіком.

М.В.Остроградський — видатний педагог, який викладав у багатьох навчальних закладах Петербурга. Ряд його праць стосується питань методики викладання математики і механіки у вищій та середній школах.

З численних і різноманітних його праць з різних галузей математичних наук, що зробили його ім’я відомим у багатьох країнах, слід особливо відзначити його мемуари у галузі чистої математики, в якому виводиться загальна формула варіації кратного інтеграла (1834 р.), а також мемуари про інтегрування раціональних функцій.

У галузі механіки він вдало розвинув думку Фур’є про те, що умови можливих переміщень іноді слід виражати нерівностями і вводити зв’язки, що залежать від часу (1834 р.). Оригінальним чином вирішив питання гідромеханіки про рівновагу сферичного шару рідини. Особливо цінним виявився його мемуар (1854 р.), що містить повну теорію ударів. У 1848 р. запропонував оригінальний висновок канонічних рівнянь, досліджував інтеграли загальних рівнянь динаміки, а також вирішив ізопериметричну задачу.

Прочитані М.В.Остроградським курси небесної механіки (1829, 1830 рр.) є не тільки важливими з педагогічного погляду, але й глибоко науковими. В них йому вдалося спростити деякі методи, якими ця галузь механіки невдовзі перед цим збагатилася. Перші п’ять лекцій присвячені викладенню загальних теорій, сім наступних — застосуванню цих теорій до руху планет. Лекції закінчувалися складанням та інтегруванням рівнянь вікових не-рівностей і застосуванням способу Пуассона для періодичних нерівностей. Під час свого перебування в Парижі у 1830 р. М.В.Остроградський подав ці лекції Паризькій Академії наук і отримав від неї дуже схвальні відгуки Араго і Пуассона.

В іншому курсі — лекціях з алгебраїчного і трансцендентного аналізу (1836, 1837 рр.) М.В.Остроградський ознайомив своїх слухачів з новими ідеями і методами у галузі алгебраїчних рівнянь, здійсненими Лагранжем, Коші, Штурмом, Гауссом, Абелем та ін.

У галузі аналізу нескінченно малих М.В.Остроградський знайшов умови і спосіб для вираження алгебраїчною функцією як інтеграла раціонального дробу, так і інтеграла від функції, що містить квадратний корінь з цілого многочлена.

Починаючи з 1830-х років займався зовнішньою балістикою. Вивів рівняння руху снаряда, вивчав опір повітря, дію пострілу на лафет гармати. В теорії потенціалу розв’язав деякі задачі, що стосуються притягання сфери та сфероїда. Досліджував поширення тепла у твердих тілах, одержав рівняння поширення тепла в рідинах.

У галузі математичної фізики він здійснив узагальнення прийому, що застосовується при інтегруванні рівнянь з частковими диференціалами. Представляє також інтерес його рішення про поширення тепла у призмі.

Ім’я М.В.Остроградського носить розроблений ним засіб виділення раціональної частини невизначеного інтеграла, що дав змогу алгебраїчним шляхом подати його у вигляді суми двох додатків, причому другий додаток раціональної частини не містить. Формула Гріна—Остроградського (1828) виражає перетворення інтеграла, обчисленого за обсягом, обмеженим певною поверхнею, в інтеграл, обчислений по цій поверхні. Цю формулу він узагальнив у 1834 р. на випадок n-кратного інтеграла.

М.В.Остроградський вивів формулу перетворення подвійних інтегралів у потрійні. В 1836 р. водночас з К.Г.Я.Якобі та Е.Ш.Каталаном він розробив спосіб заміни змінних у кратних інтегралах. Незалежно від У.Р.Гамільтона відкрив принцип найменшої дії (принцип Гамільтона—Остроградського).

Інші праці присвячені проблемам варіаційного числення, інтегруванню алгебраїчних функцій, теорії чисел, алгебрі, геометрії, теорії ймовірностей.
  М.В.Остроградський не зрозумів ідей неевклідової геометрії, розвинених М.І.Лобачевським, і різко виступив проти них.

М.В.Остроградського було обрано іноземним членом Паризької, Турінської, Римської та Американської Академій наук.

М.В.Остроградський створив ефективну школу прикладної механіки. Його учнями були видатні учені: академік І.О.Вишнеградський, професори М.П.Петров, Д.І.Журавський, Г.Є.Паукер, М.Ф.Ястржембський, С.В.Кербедз та ін.