두 개의 항으로부터 결과를 얻어내는 연산. 가장 간단한 예로 덧셈, 곱셈, 지수 등이 있다. 기본적으로 우리가 사용하는 연산은 대부분 이항 연산이다. $1+2+3$은 얼마냐고 물어봤을 때 세 개를 동시에 계산하여 삼항연산(?)을 통해 $6$이 된다고 생각하겠지만, 우선 앞에 두 수를 더해서 $(1+2)+3$이 되고 다시 두 수를 더해 $3+3$이 되어 $6$이 되는 것이다. 초등학교를 나온 사람이라면 기본적으로 덧셈이라는 연산에 대해 훈련이 되어 있기 때문에 이 과정을 의식하지 못하는 것 뿐이다.

집합 $S$가 있을 때, $S$에서 닫혀 있는 이항 연산은 다음과 같은 함수를 말한다.

$S$의 원소 $a$, $b$를 이항연산한 결과를 일반적인 함수처럼 전위표기법을 써서 $* \left( a, b \right)$으로 나타낼 수도 있지만, 보통의 이항연산은 중위표기법을 사용해 $a * b$와 같이 많이 나타낸다.

$\left( a * b \right) * c = a * \left( b * c \right)$가 항상 성립할 때, 이 이항연산은 결합법칙을 만족한다고 한다.

집합 $S$의 원소 중에 원소 $e$가 존재하여 $a * e = e * a = a$가 항상 성립할 때 $e$를 이 이항연산의 항등원이라고 부른다.

항등원 $e$가 있을 때, $a * a' = a' * a = e$가 성립하는 $a'$[2]이 있으면 $a'$을 $a$의 역원이라고 한다. $a'$은 $a$의 값에 따라 다를 수 있다.

1. 집합 $G$에 이항연산 $*$가 정의되어 있고, (물론 닫혀 있어야 한다.)
2. $*$가 결합법칙을 만족시키고,
3. $G$가 항등원을 가지고 있고,
4. $G$의 모든 원소들이 각각 역원을 가지고 있을 때,
$\left( G, * \right)$가 군(group)을 이룬다고 한다. 여기서 이항연산이 $*$인 것이 뻔할 때에는 그냥 "$G$가 군을 이룬다", 혹은 "$G$는 군이다"라고 한다.

[math(a*b = b*a)]가 항상 성립할 때 교환가능하다고 하는데, 이런 연산을 가진 그룹은 가환군(abelian group)이라고 부르며, 정수라는 집합에 주어진 덧셈이 가장 잘 알려진 예제다. 항등원은 $0$, $n$의 역원은 $-n$. 덧셈에 대한 역원이 존재하는 군을 환(Ring)이라고 하며, 0을 제외한 곱셈에 대한 역원까지 있다면 체(Field)가 된다. 반면에 가환군이 아닌데 체의 조건을 만족하면 꼬인 체(Skew Field)라고 한다.

연산 법칙에서 가장 기초적인 개념이기 때문에 고등학교 1학년 과정에 이항연산과 '닫혀있다'의 개념이 있었으나 무슨 이유에서인지 2009 개정 교육과정(2014년 고1 입학 적용)부터 탈락해버렸다. 수능 미출제 과목인 고급 수학Ⅰ·Ⅱ에서조차 다루지 않는다.