AI 에이전트 이해: AGI 달성을 위한 핵심 단계

AI 에이전트 이해: AGI 달성을 위한 핵심 단계

최근 ChatGPT, Claude, Gemini와 같은 다양한 챗봇이 인공지능 분야에서 주목을 받고 있습니다. 그러나 이러한 도구는 대부분 기업의 궁극적인 목표는 아닙니다. 상당수의 기업이 인간 지능과 동등하거나 잠재적으로 능가하는 수준의 추론이 가능한 기술인 인공 일반 지능(AGI)을 개발하고자 합니다. 그럼에도 불구하고 AGI로의 여정에는 몇 가지 개발적 이정표가 필요합니다.

챗봇은 인상적인 역량을 보여주지만, 그 유용성은 다소 제한적입니다. 자율성이라는 요소가 없다면 챗봇은 효율성과 생산성을 어느 정도만 향상시킬 수 있습니다. 이러한 제한은 예상 수익을 창출하지 못하는 데 기여합니다. 본질적으로 챗봇은 AI 발전의 기초 단계를 나타냅니다.

이러한 한계 때문에 AI 기업들은 AI 혁신의 다음 물결로서 AI 에이전트에 점점 더 집중하고 있습니다. 전통적인 챗봇이나 비즈니스 웹사이트에서 흔히 볼 수 있는 자동화된 지원 봇과 달리 AI 에이전트는 단순한 지시를 따르는 것을 넘어서 독립적인 선택을 할 수 있도록 설계되었습니다.

기존 고객 지원 봇과 상호 작용하는 것은 종종 좌절스러울 수 있습니다. 일반적으로 인간 지원 담당자와 달리 문제를 신속하거나 효율적으로 해결하지 못하기 때문입니다. 그러나 자율 AI 에이전트의 등장으로 이러한 경험이 변화할 것입니다.

AI 에이전트 정의

AI 에이전트의 정의는 전문가들 사이에서도 여전히 다소 모호하지만, 그들의 비전은 계속해서 진화하고 있습니다.

그럼에도 불구하고, 특정 특성은 잘 알려져 있습니다. AI 에이전트는 실제 시나리오에서 자율적으로 복잡한 결정을 내릴 수 있는 모델로 설계되었습니다. 가끔 인간의 감독이 필요할 수 있지만 수행할 수 있는 작업 범위는 현재 챗봇을 크게 능가할 것입니다.

ChatGPT와 같은 챗봇은 인간의 생산성을 향상시킬 수 있는 반면, AI 에이전트는 적어도 더 간단한 작업에서는 인간의 역할을 대체할 수 있는 잠재력을 가지고 있습니다.

순전히 시퀀스의 다음 단어를 예측하는 것으로 기능하는 기존의 생성형 AI 봇과 차별화된 AI 에이전트는 비판적으로 생각하고 추론할 수 있는 능력을 갖게 될 것입니다. 이러한 추론 능력의 일면은 이미 OpenAI의 모델 o1에서 관찰되었습니다.

하지만 추론은 AI 에이전트가 달성하도록 설계된 목적의 한 측면일 뿐입니다.

AI 에이전트의 근본적인 특성은 특히 복잡하고 끊임없이 변화하는 환경에서 지속적인 지시 없이 인간이 정한 목표를 추구하는 능력입니다. 인간의 단계별 지시에 의존하는 현재의 챗봇과 달리 AI 에이전트는 사용자에게 궁극적인 목표를 정의하기만 요구합니다.

선제적 대응 역시 필수적인 특징입니다. AI 에이전트는 일반적인 챗봇처럼 프롬프트를 기다려서는 안 됩니다.

또한 AI 에이전트의 핵심 측면은 피드백으로부터 학습하는 능력입니다. 이러한 에이전트는 인간의 개입 없이도 지속적으로 진화하고 성과를 향상시킬 수 있습니다. 그들은 경험으로부터 학습합니다.

AI 에이전트의 작동 방식 고객 문제를 처리하는 AI 에이전트를 상상해 보세요. 단순히 엄격한 스크립트를 고수하는 대신 고객의 참조 ID와 같은 정보를 검색하고, 관련 내부 문서에 액세스하고, 해결책을 제공하기 전에 상황을 더 잘 파악하기 위해 추가 질문을 할 수 있습니다. 필요한 경우 승인을 위해 인간 상사에게 문제를 에스컬레이션할 수 있습니다. 궁극적으로 해결이 불가능하다면 고객을 인간 담당자에게 리디렉션할 수 있습니다.

잠재적인 사용

고객 지원은 AI 에이전트가 성공할 것으로 기대되는 한 분야일 뿐이지만, 소프트웨어 개발 등 다른 수많은 분야에서도 AI 에이전트가 활약할 가능성이 높습니다.

예측에 따르면, 향후 3년 내에 상당수의 회사가 코딩 작업에 AI 에이전트를 채용하게 되고, 인간 개발자는 대부분 검토 역할에 머물게 될 것입니다.

수많은 조직이 내부 워크플로를 개선하기 위해 에이전트 시스템을 개발하고 있으며, 개념 증명에서 파일럿 단계로 이동하고 있습니다. 에이전트를 사용하여 작업을 자동화하는 것은 새로운 개념은 아니지만 AI를 통합하면 이러한 에이전트가 더 다양한 작업을 더 유연하게 처리할 수 있습니다.

많은 기업이 이미 다양한 내부 기능을 위해 AI 에이전트를 배치하고 있으며, Salesforce의 Agentforce와 같이 기업에 예비 버전을 제공하는 기업도 있습니다. 불과 몇 년 안에 AI 에이전트가 기존 콜센터 직원을 완전히 대체할 수 있습니다.

더욱이 많은 기업들은 서로 다른 대리인이 통신 및 협업을 유지하면서 특정 기능을 수행하는 다중 대리인 시스템을 도입할 가능성이 높습니다.

AI 에이전트의 범위는 기업을 넘어 확장됩니다. 개인 비서 애플리케이션도 AI 기능으로 개편되고 있습니다. 이상적인 AI 에이전트는 인간 비서와 유사하게 기능하여 구매를 관리하고, 여행을 계획하고, 회의 일정을 잡고, 웹 검색 및 기타 AI 시스템을 포함한 다양한 도구와 상호 작용할 수 있습니다.

더욱이 AI 에이전트는 구글이 최근 I/O 컨퍼런스에서 선보인 Project Astra에서 보여준 것처럼 오디오, 이미지, 비디오 입력을 처리할 수 있는 멀티모달성을 갖춰야 합니다.

단 하나의 유형의 AI 에이전트만 존재하는 것은 아니라는 점이 주목할 만합니다. 상황에 따라 다양한 기술 세트가 필요합니다.

AI 에이전트가 직면한 현재 과제

상당한 발전에도 불구하고, 완전 자율형 에이전트를 구현하는 데는 수많은 과제가 있습니다.

진정으로 도움이 되고 자율적인 것으로 인정받으려면 AI 에이전트는 오류율을 대폭 줄여야 합니다. 현재 AI 시스템은 부정확성에 매우 취약하며, 광범위한 채택을 용이하게 하려면 1% 미만으로 낮춰야 합니다. 10% 미만으로 낮추는 것은 비교적 간단할 수 있지만, 더 정교하게 만드는 것은 더 어려울 것입니다.

또한, 앞서 논의한 고객 지원 시나리오에서 가장 큰 장애물은 AI 상담원이 문제를 독립적으로 해결하려고 고집스럽게 시도하는 대신 언제 인간에게 문제를 보고해야 할지 판단할 수 있는지입니다. 이 경우 비용이 증가할 수 있습니다.

문맥적 이해는 또 다른 장애물을 제기합니다. 코딩 작업에 AI 챗봇을 사용하는 것을 상상할 때, 현재의 한계가 분명해집니다. 문맥 제한으로 인해 긴 형식의 코드를 생성하는 데 어려움을 겪습니다.

보안 및 액세스 제어도 AI 에이전트의 잠재력을 완전히 실현하기 위해 해결해야 합니다. 자율성이 커질수록 위험도 높아지므로 AI 에이전트가 허가된 작업만 실행하고 허용 가능한 정보에 액세스하도록 보장하는 보호 장치가 필요합니다.

게다가, 즉각적인 주입과 같은 문제는 관리가 필요한 보안 취약점을 야기합니다.

훈련 데이터와 계산 능력에 필요한 리소스도 과제입니다. 그러나 샘 알트먼의 일부 진술에 따르면 훈련 데이터 문제에 대한 잠재적 솔루션이 이미 진행 중일 수 있습니다.

AI 기업들은 에이전트적 미래를 달성하기 위해 부지런히 노력하고 있으며, 이러한 과제 중 많은 부분이 가까운 미래에 해결될 것으로 예상됩니다. 예를 들어, Google은 현재 2M 컨텍스트 윈도우를 촉진하고 있으며 무한 컨텍스트를 향해 진전을 이루고 있습니다.

따라서 AI가 현재 우리가 바라는 수준에서 작동하지 않을 수 있지만 미래는 예상보다 빨리 도래할 수 있습니다. 기업은 운영에 AI 에이전트를 통합할 준비를 해야 합니다. AI가 당신이 감독하는 책임을 유능하게 처리할 수 있을 때까지 몇 년이 걸릴 것이라고 생각한다면 다시 생각해 보세요. AI 에이전트가 눈앞에 다가왔고, 이 새로운 현실에 적응하기 위해 새로운 기술을 개발하는 것이 필수적입니다. 많은 회사가 내년 초에 자율적 의사 결정, 적극성, 적응성, 복잡한 환경에서 운영하고 정의된 목표를 추구할 수 있는 능력을 특징으로 하는 AI 에이전트 통합을 시작할 예정입니다.

원천

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다