[Unity] FSM vs BT (Behavior Tree) 개념

개념

FSM (Finite State Machine, 유한 상태 머신) 상태(State)와 전이(Transition)로 구성된 모델. 하나의 상태에 머물다가 특정 조건이 만족되면 다른 상태로 넘어간다. "지금 무슨 상태인가"가 중심이다.

BT (Behavior Tree, 행동 트리)
루트에서 매 tick마다 트리를 순회하며 어떤 행동을 실행할지 결정하는 모델. 노드의 성공/실패/실행중(Running) 결과가 위로 전파된다. "지금 무슨 행동을 해야 하는가"가 중심이다.

핵심 차이

FSM의 한계

상태 5개면 전이가 최대 20개(5×4). 상태가 늘어날수록 "어떤 상태에서 어떤 상태로 갈 수 있는가"를 관리하는 비용이 제곱으로 증가한다. 각 상태가 자기 다음 상태를 알아야 하므로 상태끼리 강하게 결합되고, "체력 30% 이하면 무조건 도망"같은 전역 규칙을 넣으려면 모든 상태의 전이 조건을 수정해야 한다.

BT가 해결하는 지점

트리 구조 자체가 우선순위와 흐름을 표현하므로, 노드는 자기 다음에 뭐가 오는지 알 필요가 없다. 개별 노드는 결합도가 낮아 다른 트리에 그대로 재사용 가능하다. 전역 규칙은 상위 노드에 배치하면 하위 전체에 자연스럽게 적용된다.

주요 노드 타입

• Composite: 자식 노드 실행을 제어. Sequence(하나라도 실패하면 실패, AND), Selector(하나라도 성공하면 성공, OR)
• Decorator: 자식 하나를 감싸 결과를 변형. Inverter, Repeat, Cooldown 등
• Leaf: 실제 행동/조건. Action(공격, 이동), Condition(체력 체크)

언제 무엇을 쓰나

FSM은 상태가 적고 전이가 명확한 경우 — 문 열림/닫힘, 간단한 캐릭터 이동(Idle/Walk/Run) 같은 곳에 여전히 간결하고 좋다.

BT는 보스 패턴처럼 행동이 많고 우선순위/조건이 복잡하며, 패턴을 계속 추가·재사용해야 하는 경우에 강하다.

정리

FSM은 "상태 중심", BT는 "행동 중심"이다. 둘은 대체재가 아니라, BT의 Leaf 노드 안에서 소규모 FSM을 돌리는 식으로 조합해서 쓰기도 한다. 복잡도와 확장 요구에 맞춰 선택하면 된다.

찾아보니 HFSM이라는 개념도 있어서 나중에 다시 정리해보겠습니다