대칭군이란 군의 일종으로, 어떤 집합 [math(S)]에 대해 [math(S)]에서 [math(S)]로 가는 일대일 대응 함수(bijective function)[1]들을 원소로 갖는 군이다. 자기 자신으로 가는 함수는 원소의 순서를 섞는 것이므로 이 함수를 순열이라고 부른다. 군이론에서 가장 기본이 되는 군이면서 중요한 군이므로 대수학을 공부할 학생이라면 대칭군의 성질을 잘 알아 두도록 하자
모든 군은 치환군의 부분일 뿐

어떤 집합 [math(A)]가 주어졌을 때, 그 집합 [math(A)]의 치환[2]들로 만들어지는 모든 것을 원소로 갖는 군을 대칭군이라 한다.

보다 자세한 대칭군의 성질을 논하자면 다음과 같다.

집합 [math(A)]에서 유도된 대칭군을 [math(S_A)]와 같이 표현한다.[7]는 대칭군의 영어 표현인 symmetric group에서 따온 것이다.] 또 [math(left|Aright|=n)]이면 [math(S_{n})]으로도 표현하고[8], 이를 "[math(n)]차 대칭군"이라고 한다.

군 문서에서 알 수 있듯이 모든 군은 어떤 수학적 대상의 "대칭 구조"에서 자연스럽게 나온 대상이다.어렵게 생각하지 말자

대칭군은 이 중에서도 가장 기본적인 수학적 대상인 집합에서 유도된 구조이고, 모든 수학적 구조는 집합 위에서 정의되므로카테고리는 생각하지 말자
모든 군이 대칭군의 일부(부분군)으로 표현될 수 있다,

예를 들어서 정사각형에서 유도되는 이면군을 생각해보자
정사각형의 각 꼭짓점에 반시계 방향으로 번호를 붙여 그 배열을 [math(left(1,~2,~3,~4right))]로 표현하면 정사각형을 회전해서 [math(left(2,~3,~4,~1right))]과 같은 배열을 만들 순 있으나 [math(left(2,~1,~4,~3right))] 같은 배열은 정사각형의 좌우를 뒤집어야만 만들 수 있다.
또한 아무리 뒤집거나 돌려도 [math(left(1,~3,~2,~4right))]와 같은 배열은 만들 수 없다[9]과 [math(3)]은 서로 대각선 관계에 있으므로 돌리거나 뒤집어서 옆에 오도록 만들 수 없다.]

하지만 [math(left(1,~2,~3,~4right))]를 단순히 점들의 집합으로 본다면 [math(left(1,~3,~2,~4right))] 같은 것을 포함한 모든 배열이 가능하다.

즉, 모든 이면군은 대칭군의 부분군으로 생각할 수 있는 것이다.

여기서 알 수 있듯이 대칭군은 어떠한 규칙 없이 집합의 원소를 섞는 것으로 만들어진다는 것을 알 수 있다.[10] 옆에 [math(2)], [math(2)] 옆에 [math(3)], [math(3)] 옆에 [math(4)], [math(4)] 옆에 [math(1)] 등의 규칙을 가지고 섞으면 이면군이 만들어진다.]

일상생활에서는 특별한 규칙 없이 무작위로 섞는 카드 섞기가 대칭군의 성질을 띤다는 것을 알 수 있다.

수학적 대상을 생각한다면 [math(n)]차원 단체(simplex)에서 유도되는 군이 [math(S_n)], [math(A_n)]임을 알 수 있다.

일반적으론 위에 인수를, 아래에 치환된 결과를 적는 [math(2)]행 표기법을 쓴다.[11]
[math(begin{pmatrix}1 & 2 & 3 & 4 & 5\5 & 1 & 3 & 2 & 4end{pmatrix})]
그러나 제[math(1)]행에는 반드시 항등치환의 순서가 오기 때문에 치환 함수에서는 종종 제[math(1)]행을 생략하고 교환하는 순서만을 표기한 [math(1)]행 표기법이 쓰이기도 한다. 이때 부동점은 편의상 생략된다.
[math(sigma_{1542}=begin{pmatrix}1 & 5 & 4 & 2end{pmatrix})]

어떤 한 치환이 순환이라 함은, 변하는 원소들의 모임이 꼭 하나뿐인 것이다. 예를 들어보자. 위의 예에서 변하는 원소들의 모임은 [math(left{1,~5,~4,~2right})]뿐이다. 따라서 순환이다. 그러나. [math(begin{pmatrix}1 & 2 & 3 & 4 & 5\2 & 1 & 3 & 5 & 4end{pmatrix})]에서 변하는 원소들의 모임은 [math(left{4,~5right})], [math(left{1,~2right})]이므로 순환이 아니다.

모든 순환은 [math(begin{pmatrix}1 & 5 & 4 & 2end{pmatrix})]와 같은 꼴로 표현될 수 있다. 이 표현이 나타내는 치환은, [math(1 rightarrow 5)], [math(5 rightarrow 4)], [math(4 rightarrow 2)], [math(2 rightarrow 1)]로 바꾸는 치환을 나타낸다. 나머지 원소는 그대로 둔다. 예를 더 들자면, [math(begin{pmatrix}2 & 3end{pmatrix})]은 [math(2)]와 [math(3)]을 맞교환하는 것이다.

이와 같은 표현에서 쓰인 원소의 개수를 순환의 길이라 한다. [math(begin{pmatrix}1 & 5 & 4 & 2end{pmatrix})]는 길이가 [math(4)]인 순환, [math(begin{pmatrix}2 & 3end{pmatrix})]은 길이가 [math(2)]인 순환이다. 또한, 이렇게 원소가 겹치지 않는 두 순환을 서로소라 한다.
[math(begin{pmatrix}1 & 2 & 3 & 4 & 5 & 6\5 & 1 & 6 & 2 & 4 & 3end{pmatrix})]을 예로, 이 대칭군은 [math(begin{pmatrix}1 & 5 & 4 & 2end{pmatrix})]와 [math(begin{pmatrix}3 & 6end{pmatrix})] 두 개의 순환하는 원소를 가지며, 두 순환은 서로소이다.
모든 치환은 서로소인 치환들의 곱으로 표현되며, 위의 예시를 예로 들면 다음과 같다.
[math(begin{pmatrix}1 & 2 & 3 & 4 & 5 & 6\5 & 1 & 6 & 2 & 4 & 3end{pmatrix}=begin{pmatrix}1 & 5 & 4 & 2end{pmatrix}begin{pmatrix}3 & 6end{pmatrix})]

[math(begin{pmatrix}2 & 3end{pmatrix})]과 같이 두 원소를 맞교환하는 치환[12]인 순환]을 호환이라 한다. 모든 치환은 호환들의 곱으로 나타낼 수 있다. 윗 문단에서 예시로 든 [math(begin{pmatrix}1 & 2 & 3 & 4 & 5 & 6\5 & 1 & 6 & 2 & 4 & 3end{pmatrix}=begin{pmatrix}1 & 5 & 4 & 2end{pmatrix}begin{pmatrix}3 & 6end{pmatrix})]에서 [math(begin{pmatrix}3 & 6end{pmatrix})]는 호환이며, [math(begin{pmatrix}1 & 5 & 4 & 2end{pmatrix})]는 [math(begin{pmatrix}1 & 5end{pmatrix}begin{pmatrix}4 & 5end{pmatrix}begin{pmatrix}2 & 4end{pmatrix})]로 나타낼 수 있다.
단, 이 표현은 유일하지 않다.[13]라 할 때, 항등 치환 [math(rm id)]는 [math({rm id} = begin{pmatrix}1 & 2end{pmatrix}begin{pmatrix}1 & 2end{pmatrix}=sigma^2)]이다.] 그러나 표현하는 데에 필요한 호환의 개수와 홀짝성은 일정하다. 즉, [math(3)]개의 호환으로 표현되는 치환은 [math(2)]개의 치환으로 나타낼 수 없다. 따라서 치환에 홀짝성을 부여할 수 있고, 홀수 개 호환의 곱으로 표현되면 홀치환, 짝수 개 호환의 곱으로 표현되면 짝치환이라고 한다.

[math(S_n)]에서 짝치환을 꼽으면 군을 이루는데, 이를 교대군이라 하며 [math(A_n)]으로 나타낸다 [math(nge 5)]일 때, 단순군이다.

[math(S_n)]에 대해[14],

Group of symmetry / Symmetry group [31]

주로 기하학에서 대칭, 즉 대상을 보존하는 모든 변환들을 모아 놓은 군이다. 보통 생각할 수 있는 유클리드 평면이나 공간에선 대칭은 합동변환이고, 다른 종류의 공간에서는 그 공간 위에서 특수하게 정의된 구조를 보존하는 변환들을 생각하게 된다. 뉘앙스는 약간 다를 수 있겠지만 변환군(transformation group)이라고 지칭되기도 한다.

대칭군의 항등원은 항상 아무 것도 하지 않는 항등변환이 된다. 대칭이 구조를 보존한다면 대칭끼리의 합성이나 역변환도 구조를 보존해야 하므로, 대칭군이 군의 다른 공리들을 만족함도 직관적으로 생각할 수 있다. 군의 개념 자체가 광범위한 대칭을 연구하는 데에서 시작되었으므로, 추상적 정의로서의 군보다도 이 대칭군으로 군을 간주하는 것이 어떻게 보면 더욱 근본적이다. 굳이 따지자면 위의 대칭군도 구조가 전혀 없는 집합에서의 변환군으로 간주할 수도 있다.

예를 들면 정삼각형의 대칭 조작은 0도, 120도, 240도 회전, 그리고 세 중선에 대한 선대칭 3개 총 6개로 이루어져 있다. 이들 6개 조작은 군을 이루고, 그 구조는 (1번 항목의) 대칭군 [math(S_3)]과 동형이다. 비슷하게 정n각형의 대칭군에서 나온 원소 [math(2n)]개 짜리 이면군(dihedral group)을 생각할 수 있다. 만약 평면을 뒤집지 않는 변환들(즉 평행이동과 회전이동의 합성들)만을 생각한다면 정n각형의 대칭군은 순환군 [math(C_n)]이 될 것이다. 공간에서도 정6면체나 정8면체의 회전 대칭군이 [math(A_4)]와 동형이라던가, 정12면체나 정20면체의 회전 대칭군이 [math(A_5)]와 동형이라는[32]가 곱해진다.] 사실은 학부대수학에서 표현론의 도입 예시 중 하나로 종종 써먹을 것이다.

평면의 유한한 도형의 대칭군은 이면군과 순환군 두 종류밖에 없지만, 반복되는 무늬나 격자, 결정 등의 대칭의 경우 무한군이 나올 수 있다. 평면의 이산적 대칭군에 대해 더욱 자세한 것은 대칭 문서를 참고하자. 이산적인 경우 뿐만이 아니라 원의 대칭군 [math(mathrm{O}_2)](반사 포함) 혹은 [math(mathrm{SO}_2)](미포함)의 경우처럼 연속적인 대칭군도 얼마든지 나올 수 있다.

한편으로는 공간 속의 도형 하나의 대칭에서 벗어나 공간 자체의 대칭을 생각할 수도 있다. 거리가 주어진 공간[33]의 경우 모든 합동변환(즉 등장변환 혹은 등거리사상)들을 모조리 모아놓는데, 유클리드 공간의 경우는 평행이동과 회전/반사 이동들의 합성들을 모두 모은

이 [math(mathbb{R}^n)]의 대칭군인 유클리드 군(Euclidean group)이 될 것이다. 비유클리드 기하학에서는 구면기하학의 대칭군으로 나오는 [math(mathrm{SO}_3)]이나 쌍곡기하학의 대칭군인 [math(mathrm{PSL}_2)] 등등을 생각할 수도 있다. 거리가 없는 공간이라도 공간에 주어진 구조[34]를 보존하는 대칭군을 생각할 수 있고, 상대성 이론에서 나오는 로런츠 군 등이 이런 예시에 속한다.

현대 기하학에서는 대칭군 전체의 대수학적/기하학적 성질을 탐구해 공간에 대한 성질을 얻어내는 것이 주요 사고방식 중 하나가 되었다. 예로 구면 위에서의 라플라스 방정식의 해인 구면 조화 함수 같은 경우 [math(mathrm{SO}_3)]의 표현론에서 그 답을 얻어낼 수도 있다. 한편으로는 이 대칭이라는 것도 대다수의 경우 행렬의 군으로 나타낼 수 있으므로, 모든 군은 행렬군의 부분군이다. 어찌 비슷한 말을 위에서 본 거 같다? 물리학자들이 말하는 우주적인 대칭이니 등등의 아무리 추상적인 공간을 생각하려고 해도 결국에는 특정 행렬군들만을 대칭군의 후보로서 연구하면 충분하다는 것을 알려준다. 그게 매우 어려워서 문제지만...