Первую серьезную награду Немов завоевал в 13 лет на молодежном первенстве СССР в 1989 году. После этого он одержал череду побед на соревнованиях различного уровня, включая международный. Две золотые медали, одну серебряную и три бронзовые Немов завоевал на Играх в Атланте в 1996 году. Спустя год он выиграл чемпионат мира в Швейцарии. А 2000 год стал пиком его спортивной карьеры - он выигрывает чемпионат мира и Европы, становится призером Кубка мира и повторно выигрывает две золотые медали на Олимпийских играх в Сиднее.

На Олимпиаде в 2004 году в Афинах, несмотря на сложную программу, судьи поставили российскому спортсмену явно заниженный балл, что вызвало шквал негодования со стороны болельщиков разных стран, которые требовали пересмотра результата. Судьи повысили оценку, но в число призеров он так и не попал. Это был первый в истории олимпийской гимнастики случай, когда судьи изменили оценки.

После этой ситуации Немову принесли официальное извинение, а в правила гимнастической программы были внесены изменения – помимо оценки за технику была введена оценка за сложность, которая учитывала каждый элемент отдельно, а также связки между отдельными сложными элементами.

Кроме спортивных наград Алексей Немов имеет и другие - государственные (Орден"За заслуги перед Отечеством", "Орден Мужества", "Орден Почёта"), за выдающиеся спортивные достижения имя Немова занесено в Книгу Рекордов Гиннеса, как лучшему спортсмену планеты ему в 2000 году была вручена награда "World Sports Awards", за благородное и спортивное поведение во время соревнований ему был вручён специальный приз CIFP (Международный комитет Fair Play) ...

В настоящее время А.Ю.Немов является полковником ВС РФ запаса, главным редактором журнала «Большой спорт».