Возвращение Остроградского в Россию

В ноябре 1827 года Остроградский вернулся в Россию. В 1828 году его избрали адъюнктом Петербургской Академии наук, а в 1831 - ординарным академиком по отделу прикладной математики. Занимаясь наукой Остроградский много времени отдавал преподаванию. С 1828 года он являлся профессором офицерских классов Морского кадетского корпуса, с 1830 года - профессором Института корпуса инженеров путей сообщения, с 1832 года - профессором Главного педагогического института, а с 1840 года - Главного инженерного училища, наконец, с 1841 года он - профессор Главного артиллерийского училища в Петербурге.

Общаясь со слушателями, Остроградский стремился демонстрировать им самые последние достижения науки. В Институте инженеров путей сообщения, он, например, рассказывал о только что появившихся работах Абеля по алгебраическим функциям и об исследованиях Штурма относительно отделения корней алгебраических уравнений - о так называемой теореме Штурма. Не случайно из многочисленных слушателей Остроградского вышли такие известные ученые, считавшие себя его учениками, как И. А. Вышнеградский, Н. Н. Петров, Н. С. Будаев, Н. Ф. Ястржембский, В. Н. Шкляревич, П. Л. Лавров, Д. И. Журавский, И. П. Колонг и другие.

Основные работы Остроградского относятся к математическому анализу, теоретической механике, математической физике. Известен он многочисленными работами по теории чисел, алгебре, геометрии, теории вероятностей, баллистики. Им была решена важная задача о распространении волн на поверхности жидкости, заключенной в бассейне, имеющем форму круглого цилиндра. Оценивая работы Остроградского, известный механик и математик Н. Е. Жуковский писал, что «...они захватывают собою почти всю область, на разрешении которой сосредотачивались в то время мысли выдающихся европейских геометров.

В тот период расцвета прикладных наук, когда прогресс математических знаний дал сразу возможность разрешить целый ряд существенных вопросов естествознания, мы часто встречаемся с однородными работами выдающихся мыслителей. Нам, русским, отрадно отметить теперь, что в это время деятельности Фурье, Коши, Пуассона, Якоби и Гаусса мы не остались в стороне, так как имели Остроградского».

В работах по теории распространения тепла в твердых телах и в жидкостях Остроградский получил дифференциальные уравнения распространения тепла и одновременно пришел к ряду важнейших результатов в области математического анализа: нашел формулу преобразования интеграла по объему в интеграл по поверхности (так называемая формула Остроградского-Гаусса).

Он ввел понятие сопряженного дифференциального оператора, доказал ортогональность собственных функций данного оператора и сопряженного, установил принцип разложимости функций в ряд по собственным функциям и принцип локализации для тригонометрических рядов. Стоит отметить, что теория распространения тепла в жидкости впервые была построена именно Остроградским, так как предыдущие исследования французских математиков Ж. Фурье и С. Пуассона были основаны ими на ошибочных предпосылках. Занимался Остроградский также вопросами упругости, небесной механики, теории магнетизма.