Теорема Енгеля — твердження в теорії алгебр Лі щодо еквівалентності різних означень нільпотентності для цих алгебр.
Нехай — скінченновимірна алгебра Лі над довільним полем k. Якщо — підмножини алгебри, то позначає скінченні суми елементів виду де
Нижній центральний ряд алгебри Лі вводиться послідовно: .
Якщо — підалгебра Лі, то можна також ввести зростаючі центральні ряди: Для позначення також використовується
Алгебра Лі називається нільпотентною, якщо для деякого числа. Еквівалентно, якщо ввести позначення то алгебра Лі буде нільпотентною якщо для деякого натурального числа n і
виконується adX1adX2 ⋅⋅⋅ adXn = 0.
Алгебра Лі називається ad-нільпотентною, якщо кожне лінійне відображення є нільпотентним.
Скінченновимірна алгебра Лі над довільним полем k є нільпотентною тоді і тільки тоді, коли вона є ad-нільпотентною.
Якщо алгебра Лі є нільпотентною, то існує число n для якого adX1adX2 ⋅⋅⋅ adXn = 0 для всіх Зокрема звідси і всі оператори є нільпотентними.
Навпаки, нехай — скінченновимірна ad-нільпотентна алгебра Лі. Алгебра Лі є нільпотентною тоді і тільки тоді, коли факторалгебра по центру алгебри є нільпотентною. Дійсно ця факторалгебра є нільпотентною тоді і тільки тоді, коли для деякого n виконується Але тоді
Для введених вище зростаючих центральних рядів а є центром алгебри Тому тоді і тільки тоді коли
Якщо для підалгебри усі лінійні оператори є нільпотентними, то З цього твердження для і попереднього критерію нільпотентності випливає теорема Енгеля.
Доведення можна здійснювати по розмірності алгебри . Для n=1 воно відразу випливає із означення нільпотентності . Нехай розмірність є більшою одиниці і — її максимальна власна підалгебра Лі. Тоді згідно припущення індукції існує число m для якого і
Візьмемо таке число j, що але Нехай також Тоді і тому є підалгеброю у і зважаючи на максимальність і є ідеалом у
Далі для всіх i. Справді, очевидно і якщо твердження справедливе для всіх чисел менше i і то і тому
Далі, оскільки відображення є нільпотенним і стабілізує підалгебри послідовності
то існує подрібнення
для якого і також .
Звідси і