Обычно считают, что в отличие от матрицы перехода при повороте системы координат (базиса), при умножении на матрицу поворота вектора-столбца координаты вектора преобразуются в соответствии с поворотом самого вектора (а не поворотом координатных осей; то есть при этом координаты повернутого вектора получаются в той же, неподвижной системе координат). Однако отличие той и другой матрицы лишь в знаке угла поворота, и одна может быть получена из другой заменой угла поворота на противоположный; та и другая взаимно обратны и могут быть получены друг из друга транспонированием.
Поворот выполняется путём умножения матрицы поворота на вектор-столбец, описывающий вращаемую точку:
Координаты (x′,y′) в результате поворота точки (x, y) имеют вид:
Конкретные знаки в формулах зависят от того, является ли система координат правосторонней или левосторонней, и выполняется ли вращение по или против часовой стрелки. Верхний знак указан для обычного соглашения: правосторонняя система координат и положительное направление вращения против часовой стрелки (тот же знак верен для левосторонней координатной системы при выборе положительного направления вращения по часовой стрелке; в оставшихся двух комбинациях — нижний знак).
Любое вращение в трёхмерном пространстве может быть представлено как композиция поворотов вокруг трёх ортогональных осей (например, вокруг осей декартовых координат). Этой композиции соответствует матрица, равная произведению соответствующих трёх матриц поворота.
Матрицами вращения вокруг оси декартовой системы координат на угол в трёхмерном пространстве с неподвижной системой координат являются:
Вращение вокруг оси :
Вращение вокруг оси :
Вращение вокруг оси :
Матрица поворота последовательности поворотов в некотором оговорённом порядке:
Положительным углам при этом соответствует вращение вектора против часовой стрелки в правой системе координат, и по часовой стрелке в левой системе координат, если смотреть против направления соответствующей оси[2]. Например, при повороте на угол вокруг оси ось переходит в : . Аналогично, и . Правая система координат связана с выбором правого базиса (см. правило буравчика).
Совершенно аналогично могут быть записаны матрицы поворота конечномерного пространства любой более высокой размерности.
Надо только иметь в виду, что для размерностей пространства, не равных трём, невозможно указать единственную прямую, ортогональную двум данным прямым, а поэтому нельзя говорить о вращении вокруг какой-то оси, можно же говорить о вращении в какой-то плоскости[3]. Все точки при повороте в пространстве любой размерности, начиная с 2, всегда движутся параллельно некоторой (двумерной) плоскости.
Итак, аналогично трёхмерному случаю (с приведенной оговоркой) можем написать матрицу поворота в любой координатной плоскости для любой размерности пространства.
Например:
— матрица поворота в 5-мерном пространстве в плоскости ,
— матрица поворота в 7-мерном пространстве в плоскости .
При таком подходе знаки перед синусами расставлять даже легче, поскольку они определяются порядком перечисления осей плоскости вращения: какая названа первой, в той строке перед синусом минус.
Легко видеть, что матрица поворота в плоскости совпадает (что естественно) с матрицей поворота в плоскости и т. д. с точностью до замены угла поворота на противоположный.
Поэтому такие матрицы с переставленными индексами очевидно не независимы, и для получения произвольного поворота достаточно включить в композицию каждую плоскость только один раз, то есть, скажем, только , а не и .
Если — матрица поворота вокруг оси с ортом на угол , — матрица поворота вокруг оси с ортом на угол ,
то — матрица, описывающая поворот, являющийся результатом двух последовательно осуществленных поворотов ( и ), поскольку
При этом последовательность поворотов можно поменять, видоизменив поворот :
где матрица — матрица поворота на угол вокруг оси c ортом повернутым с помощью поворота :
Последовательные повороты около осей на угол прецессии (), угол нутации () и на угол собственного вращения () приводят к следующему выражению для матрицы поворота:
Ось — ось X, повёрнутая первым поворотом (на ), — ось Z, повёрнутая первым и вторым поворотом (на и ). Вследствие перестановочности поворотов приведённая матрица соответствует поворотам на углы , , вокруг осей Z, X, Z:
.
В случае, если повороты задаются в другой последовательности, матрица поворота находится перемножением матриц для вращения вокруг соответствующих декартовых осей координат, например:
↑То есть если смотреть на плоскость вращения со стороны полупространства, где значения координат оси, вокруг которой осуществляется поворот, положительные.
↑О вращении в плоскости можно говорить и для трёхмерного пространства, например, вращение вокруг оси есть вращение в плоскости ; однако для трёхмерного пространства возможно и то и другое представление, и поэтому обычно, если вопрос сводится к случаю только этой размерности, выбирают представление (и обозначения) вращения вокруг оси как интуитивно несколько более простое.