En matemàtiques, una transformació ortogonal és una transformació lineal (on és un espai prehilbertià) tal que conserva el producte escalar d'aquest espai.[1] És a dir, que per tot parell d'elements es compleix . En particular, com que els mòduls dels vectors i l'angle entre aquests en un espai prehilbertià es defineixen a partir del producte escalar, les transformacions ortogonals preserven els mòduls i els angles i, per tant, envien les bases ortonormals a bases ortonormals.
Si prenem com a l'espai real euclidià de dimensió 2 amb el producte escalar estàndard i la seva base canònica, , aleshores la transformació donada per la matriu de transformació
és ortogonal. Per demostrar-ho, n'hi ha prou amb aplicar-la sobre els vectors de la base canònica:
I veure que
En l'espai real euclidià de dimensió 3 amb el producte escalar estàndard i la seva base canònica, , alguns exemples de matrius de transformacions ortogonals són i .