추론 엔진이란 무엇인가요?

이메일 초안 작성, 캠페인 개요 생성, 웹 페이지 구축, 경쟁사 조사, 데이터 분석, 통화 요약과 같은 일상적인 비즈니스 업무를 AI가 자동화할 수 있다고 상상해 보세요. 이러한 반복적인 작업을 자동화하면 비즈니스 전략 및 관계 구축과 같은 더 복잡하고 창의적인 활동에 투자할 수 있는 귀중한 시간과 노력을 확보할 수 있습니다.

이러한 일상적인 비즈니스 작업을 자동화하려면 AI가 추론 엔진으로 작동하도록 하여 인간의 지능을 시뮬레이션해야 합니다. 다른 차원의 제너레이티브 AI입니다. AI는 자연어로 소통하는 것 외에도 문제 해결과 의사 결정에도 도움을 줄 것입니다. 제공된 정보를 통해 학습하고 장단점을 평가하며 결과를 예측하고 논리적인 결정을 내립니다. 최근의 기술 발전을 고려할 때, 우리는 이러한 AI 기능의 벼랑 끝에 서 있으며 과학계와 비즈니스 커뮤니티의 많은 사람들을 흥분시키고 있습니다.

추론 엔진은 특정 규칙, 데이터 및 논리를 기반으로 사람의 등급 결정 및 문제 해결 능력을 모방하는 AI 시스템입니다. 추론 엔진이 모방하는 인간의 추론 또는 추론 메커니즘에는 세 가지 유형이 있습니다:

1. 연역적 추론 - 보편적이고 일반적으로 인정되는 사실에 근거하여 추론합니다. 예를 들어 "모든 새는 알을 낳습니다. 비둘기는 새입니다. 따라서 비둘기는 알을 낳습니다."
2. 귀납적 추론 - 특정 사례 또는 샘플에서 결론을 도출합니다. 다음과 같이 보일 수 있습니다: "내가 만나는 모든 개는 친절합니다. 따라서 모든 개는 친절합니다!"
3. 납치 추론 - 다음과 같이 불완전하고 종종 모호한 정보로부터 가능성 있는 결론을 내리는 추론입니다: "바닥에 찢어진 종이가 널려 있고 우리 개가 아파트에 혼자 있었다. 따라서 개가 서류를 찢은 것이 틀림없습니다."

이제 전 세계 사람들은 대규모 언어 모델 (LLM)이 학습된 데이터에서 유용한 새 콘텐츠를 생성할 수 있는 특수 머신 러닝 모델이라는 사실을 알고 있습니다. 그 외에도 오늘날의 LLM은 문맥을 이해하고, 데이터에서 논리적 추론을 이끌어내며, 다양한 정보를 연결하여 문제를 해결하는 능력도 발휘합니다. 이러한 특성을 통해 LLM은 추론 엔진으로 작동할 수 있습니다.

그렇다면 LLM은 정보를 평가하고, 계획을 생성하고, 알려진 규칙을 적용하여 일반적인 비즈니스 수학 문제를 어떻게 해결할 수 있을까요?

커피숍 주인이 손익분기점을 맞추기 위해 한 달에 몇 잔의 커피를 팔아야 하는지 알고 싶다고 가정해 보겠습니다. 컵당 3.95달러를 청구하고, 월 고정 비용은 2,500달러, 단위당 변동 비용은 1.40달러입니다.

LLM은 알려진 수학 규칙을 적용하여 체계적으로 답을 구합니다:

1단계.

관련 값을 식별합니다.

2단계:

커피당 기여 마진을 계산합니다. 기여 마진은 판매 가격에서 변동 비용을 뺀 값입니다.
= $3.95 - $1.40 = $2.55

3단계:

손익분기점 공식을 적용합니다. 손익분기점은 고정 비용을 기여 마진으로 나눈 값입니다.
= $2500/$2.55 = 980.39

4단계:

가장 가까운 정수로 반올림합니다.
손익분기점 = 커피 981잔

대형 언어 모델의 인기는 2022년 가을에 급증했지만, 과학자들은 다양한 프롬프트를 통해 이러한 모델을 실험하는 데 몰두해 왔습니다. '프롬프트' 또는 프롬프트 엔지니어링은 신중하게 제작된 일련의 입력 명령어(프롬프트)를 LLM에 전송하여 원하는 결과를 생성하는 분야로 빠르게 부상하고 있습니다. 프롬프트를 사용하여 목표를 달성하기 위한 단계의 논리적 계획을 생성할 때 이를 "추론 전략"이라고도 합니다. 아래에서 인기 있는 추론 전략 몇 가지를 살펴보세요:

• 생각의 연쇄(CoT): 가장 인기 있는 추론 전략 중 하나입니다. 이 접근 방식은 복잡한 문제를 일련의 단계로 분석하도록 LLM에 지시함으로써 인간 스타일의 의사 결정을 모방합니다. 이 전략을 "순차적 플래너"라고도 합니다. 연쇄 추론은 수학 단어 문제를 풀고 상식적인 추론을 수행하며 인간이 언어로 해결할 수 있는 과제를 해결할 수 있습니다. CoT의 한 가지 장점은 엔지니어가 프로세스를 들여다보고 문제가 발생하면 무엇이 잘못되었는지 파악하여 문제를 해결할 수 있다는 점입니다.
• 추론 및 행동(ReAct): 이 전략은 LLM이 학습한 데이터 외에 실제 정보를 추론에 활용합니다. 리액트 기반 추론은 대화형 의사 결정과 언어적 추론을 포함하는 인간과 유사한 과제 해결에 더 가깝기 때문에 오류 처리 능력이 향상되고 환각률이 낮아진다고 선전됩니다. 사용자 행동을 통해 추론과 행동이 시너지 효과를 발휘하여 응답의 해석 가능성과 신뢰성을 높입니다. 이 전략은 단계별 방식으로 문제 해결에 접근하고 모든 단계에서 사용자 피드백을 구하기 때문에 '단계적 계획'이라고도 합니다.
• 생각의 나무(ToT): 이 변형된 생각의 사슬 접근 방식은 각 중간 단계에서 여러 가지 생각을 생성합니다. 한 가지 추론 경로를 선택하는 대신 각 단계마다 환경의 현재 상태를 탐색하고 평가하여 적극적으로 앞을 내다보거나 뒤로 물러나 보다 신중한 결정을 내립니다. 이 전략은 수학 게임, 창의적 글쓰기 연습, 미니 십자말풀이와 같은 복잡한 작업에서 CoT보다 훨씬 뛰어난 성능을 발휘하는 것으로 입증되었습니다. ToT 추론은 여러 옵션을 탐색하고 장단점을 비교한 후 최선의 선택을 하는 인간의 의사 결정 패러다임에 훨씬 더 가까운 것으로 간주됩니다.
• 계획을 통한 추론(RAP): 이 전략은 LLM을 추론 엔진과 월드 모델로 사용하여 환경 상태를 예측하고 행동의 장기적인 영향을 시뮬레이션합니다. 대체 추론 경로 탐색, 미래 상태 및 보상 예측, 기존 추론 단계를 반복적으로 개선하여 더 나은 추론 성능을 달성하는 등 여러 개념을 통합합니다. RAP 기반 추론은 계획, 수학 추론, 논리적 추론과 관련된 작업에서 다양한 기준선보다 뛰어난 성능을 자랑합니다.

이는 오늘날 가장 유망한 전략 중 일부에 불과합니다. 이러한 전략을 실제 AI 애플리케이션에 적용하는 과정은 최적의 성능을 위해 다양한 전략을 조정하고 조합하는 반복적인 과정입니다.

LLM이 추론 엔진으로 작동하는 것은 매우 흥미로운 일이지만, 실제 세계에서 어떻게 유용하게 사용할 수 있을까요? 인간에 비유하자면, LLM이 추론, 계획, 의사 결정 능력을 갖춘 두뇌와 같다면 행동을 취하기 위해서는 여전히 손과 다리가 필요합니다. 추론 능력과 행동 능력을 모두 갖춘 AI 시스템인 'AI 에이전트'를 소개합니다. "도구", "플러그인", "액션" 등의 용어가 액션 수행에 널리 사용되는 용어입니다.

AI 에이전트에는 완전 자율형과 반자율형의 두 가지 종류가 있습니다. 완전 자율 에이전트는 사람의 개입 없이도 자율적으로 의사 결정을 내리고 그에 따라 행동할 수 있습니다. 이러한 종류의 에이전트는 현재 실험 모드에 있습니다. 반자율 에이전트는 요청을 트리거하기 위해 '루프에 있는 사람'이 참여하는 에이전트입니다. 대화형 챗봇( Einstein Copilot, ChatGPT, Duet AI 등)과 같은 AI 애플리케이션에서 주로 반자율 에이전트가 채택되기 시작했습니다.

AI 에이전트에는 네 가지 주요 구성 요소가 있습니다:

1. 목표 - 상담원의 기본 목표 또는 작업입니다.
2. 환경 - 목표, 초기 사용자 입력, 이전 활동 또는 대화 기록, 관련성에 대한 근거 데이터, 사용자 피드백, LLM이 학습된 데이터와 같은 상황별 정보입니다.
3. 추론 - 관찰하고, 다음 작업을 계획하고, 의도한 목표를 향해 최적화하기 위해 재조정하는 LLM의 내장 기능입니다.
4. 액션 - 일반적으로 상담원이 목표를 달성할 수 있도록 지원하는 외부 툴입니다. 일반적인 작업의 예로는 정보 검색, 검색, 코드 생성, 코드 해석, 대화 상자 생성 등이 있습니다.

Einstein Copilot 는 회사의 직원 및 고객과 자연어로 상호 작용하는 Salesforce의 고급 AI 기반 대화형 어시스턴트입니다. 직원들은 이를 사용하여 업무 흐름에서 다양한 작업을 수행할 수 있으므로 대규모 생산성 향상에 도움이 됩니다. 또한 소비자는 이를 통해 브랜드와 채팅하고 질문에 대한 답변을 즉시 얻을 수 있어 만족도와 충성도를 높일 수 있습니다. Einstein Copilot 는 이해력 및 콘텐츠 생성과 같은 언어 능력과 복잡한 작업을 계획하기 위한 추론 엔진으로 LLM을 사용하여 사용자의 인지 부하를 줄입니다.

작동 방식은 다음과 같습니다.

1. 예를 들어 사용자가 달성하고자 하는 목표를 입력합니다: "웹페이지 만들기."
2. Einstein Copilot 는 큐레이션된 프롬프트를 사용하여 사용자 입력을 보안 LLM으로 전송하여 사용자의 의도를 추론합니다.
3. 의도에 따라 Einstein Copilot 은 또 다른 선별된 프롬프트를 전송하여 LLM에 해당 의도를 충족하기 위한 계획을 생성하도록 지시합니다.
4. 생성된 계획은 논리적 순서로 연결된 일련의 작업입니다. Einstein Copilot 이 신뢰할 수 있는 방식으로 행동하도록 보장하기 위해 LLM은 사용 가능한 조치로 계획을 엄격하게 생성하도록 지시받습니다.
5. LLM이 플랜을 반환하면 Einstein Copilot 이 지정된 순서대로 작업을 실행하여 원하는 결과를 생성하고 이를 사용자에게 전달합니다.

시각적으로 이것은 다음과 같습니다.

Einstein Copilot 를 통해 기업은 추론 엔진으로 LLM을 활용할 수 있습니다. 이 도구를 통해 기업은 불과 몇 달 전만 해도 현실적으로 불가능했던 여러 가지 작업을 AI를 사용하여 수행할 수 있습니다.

• 영업팀에서 파이프라인이 얇은 경우 Einstein Copilot 에서 데이터베이스를 검색하여 참여시킬 가치가 있는 양질의 리드를 찾을 수 있습니다.
• 코파일럿은 잠재적인 거래를 스캔하여 위험에 처한 거래를 찾아내고, 요청이 있을 경우 관리자를 위해 기록을 요약할 수 있습니다.
• Copilot은 서비스 상담원이 고객의 과다 청구 문제를 해결하고 문제 해결을 위한 올바른 정보를 수집하는 데 도움을 줄 수 있습니다.
• 코파일럿은 잠재 거래에 대한 현재 고객 정서를 분석하고 향후 3개월 동안 거래를 성사시키는 데 필요한 조치를 추천할 수 있습니다.

이러한 사용 사례와 이와 유사한 다른 많은 사용 사례에서 Einstein Copilot 은 기본적으로 반자율 에이전트 역할을 수행하며, LLM을 추론 엔진으로 사용하고 사용자의 메시지가 표시되면 작업을 수행하기 위한 조치를 취합니다. 다음 단계는 Einstein Copilot 을 완전히 자율화하여 보조적일 뿐만 아니라 능동적이고 어디에나 존재할 수 있도록 만드는 것입니다. AI의 미래는 흥미진진하지만, 그보다 더 흥미로운 것은 다가올 글로벌 효율성의 결과입니다.