챗봇과 에이전트는 무엇이 다른가 — 말하는 것과 하는 것

요즘 챗봇과 에이전트가 거의 같은 말처럼 쓰입니다. 그런데 이 둘을 구분하지 않으면 기대와 결과가 어긋나기 쉽습니다.

비유로 시작하겠습니다. 챗봇은 안내 데스크 직원입니다. 물어보면 알려 줍니다. "환불 규정이 어떻게 되나요"라고 물으면 규정을 설명해 줍니다. 에이전트는 대신 처리해 주는 직원입니다. "환불해 주세요"라고 하면 주문을 찾고, 상태를 확인하고, 환불을 실행하고, 결과를 알려 줍니다.

차이는 '도구를 쓰는가'에 있습니다

에이전트라고 부르려면 대체로 세 가지가 붙습니다. 외부 시스템을 호출할 수 있어야 하고(도구), 여러 단계를 스스로 이어 갈 수 있어야 하고(계획), 중간 결과를 보고 다음 행동을 정할 수 있어야 합니다(판단).

이 세 가지가 붙는 순간 성격이 달라집니다. 챗봇이 틀리면 잘못된 안내가 나갑니다. 에이전트가 틀리면 잘못된 처리가 실행됩니다. 되돌릴 수 있는 실수와 되돌리기 어려운 실수의 차이입니다.

그래서 도입 순서가 갈립니다

말하는 일부터 시작하면 위험이 낮고, 하는 일부터 시작하면 효과가 크지만 사고 비용도 큽니다. 실행 권한을 어디까지 줄 것인가, 사람이 확인하는 지점을 어디에 둘 것인가가 에이전트 설계의 대부분이라고 해도 지나치지 않아 보입니다.

여러분이라면 지금 업무 중 어떤 일까지 '대신 실행'을 맡기실 수 있겠습니까?