Generative AI 활용법

매주 수요일, 안철준 촌장의 <수요레터>입니다 👀

2023. 10. 11.

Generative AI 활용법

매주 수요일, 안철준 촌장의 <수요레터> 발행됩니다 👀

📌 <주간 채널온티비 촌장 칼럼>의 이름이 <수요 레터>로 변경되었습니다. 기존과 같이 매주 수요일 오전 9시에 동일하게 발행됩니다. 앞으로도 IT / Tech / Trend / Culture 에 관련된 다양한 이야기로 찾아 뵙겠습니다. 감사합니다. :)

Generative AI 활용법

매일 새로운 AI 뉴스와 업데이트가 쏟아지고 있습니다. 이제는 AI를 빼놓고는 새로운 기술을 얘기하기가 어려울 정도이네요. 정말 정신 없습니다.

ChatGPT로 대변되는 Generative AI 기술이 가장 효과적인 부분은 무엇보다 기업 도메인이 아닐까 싶어요. 특히 기존에 지루하고 오래걸렸던 업무들의 효율을 극적으로 개선할 수 있을 겁니다. 관련된 다양한 서비스들이 소개되고 있는데, 이번에 Wired 의 기사를 소개해 드리려고 합니다. <Generative AI Is Coming for Sales Execs’ Jobs> 라는 기사인데요. B2B 영업 부문에 Generative AI 가 적용되었을 때 어떤 효과가 있을 지를 다루고 있습니다. 해당 기사를 바탕으로 Generative AI가 비즈니스 영역에 어떻게 사용될 지에 대한 이야기를 풀어가 보겠습니다.

비즈니스에 Generative AI를 적용하려는 시도와 서비스들이 봇물이 터진다 (이미지 출처)

영업은 기업의 꽃이다!

기업의 핵심부서는 영업입니다. 직접적으로 돈을 벌어주는 곳이니까요. 고객과의 긴밀한 관계를 만들어내고 창의적이고 효과적인 제안을 통해 딜을 성사시켰을 때, 영업 부서의 가치는 최고에 올라섭니다. 하지만 영업 부서의 많은 업무가 사실상 고객들의 지루한 요청들에 대응하는 데 소모되고 있는 것도 사실이죠. 특히나 고객사 프로젝트별 RFP (Request for Proposal)에 대응하는 작업은 엄청난 시간과 리소스를 잡아 먹는 일입니다. 그런데 이 일을 Generative AI 가 대신한다면 어떻게 될까요?

성과를 내기 위한 영업 사원은 항상 저렇게 웃을 수 없다

Generative AI 가 RFP를 만들다

기업형 소프트웨어 기업인 T사는 RFP Genie 라는 Generative AI 도구를 선보였는데요. RFP에 대응하기 위해 기업 내 수천 개의 내부 파일을 검색하여 찾아낸 데이터를 OpenAI의 GPT-4를 이용하여 적절한 결과물을 만들어 냅니다. 회사의 영업 직원은 해당 문서를 이용해서 마무리 작업을 하기만 하면 되는 겁니다. T사는 기존에 2명의 직원이 몇 주동안 작업했던 RFP를 단 몇 분만에 완료해 낸다고 주장합니다. T사의 CEO는 이렇게 강조합니다.

"이런 Generative AI 도구를 이용해서 담당자가 더 복잡한 문제에 집중할 수 있도록 도와 줄 겁니다."

T사 뿐 아니라, Google, IBM 등의 기업들도 해당 솔루션 개발에 박차를 가하고 있는데, Google은 이런 AI RFP 도구를 사용해서 매년 수천 시간의 영업 인력의 시간을 절약할 수 있을 것으로 보고 있습니다. 업계는 해당 도구의 출현을 전반적으로 환영하고 있습니다. RFP라는 고된 작업에서 해방될 수 있다는 점에서 많은 영업 직원들도 이런 기술의 도입을 반기는 상황인데요.

RFP를 누군가 대신 써주길 바랬던 영업 사원이 어디 한둘이랴. 이제야 대리인을 찾았다. (이미지 출처)

할루시네이션을 극복하라

기업 영역에서의 할루시네이션을 어떻게 극복할 것인지는 해당 도구의 신뢰성에 가장 큰 영향을 주는 요소입니다. 이런 문제를 해결하기 위해 최근에 RAG (Retrieval Augmented Generation) 즉, <검색 증강 생성> 이라는 기술이 적용되고 있습니다. 신뢰성 있는 데이터를 검색할 수 있는 검색도구와 GPT-4를 결합하는 방식으로 구현이 되는데요. 강력한 검색 도구는 회사 내부의 기술 문서와 기타 자료들에서 가장 신뢰성 있는 데이터를 추출해 냅니다. 추출된 데이터를 기반으로 GPT-4를 활용하여 명확하고 전문적인 어조로 문서를 만들어내는 방식이 바로 RAG 입니다. RAG 를 이용하는 것이 특정 도메인의 LLM 을 새롭게 학습하거나 튜닝하는 작업보다는 훨씬 저렴하다고 알려져 있습니다.

하지만 Generative AI를 RFP 분야에 적용하는 것이 장점들만 있는 건 아닙니다.

진짜 눈이 어지럽다. 할루시네이션이다. (이미지 출처)

문제점들

Generative AI를 이용한 RFP 업무 도구가 도입되었을 때 일어날 수 있는 문제는 다양합니다.

먼저 실제적으로 최종적인 RFP 완성과 제출과 같은 사업 관리 프로세스에서 담당자가 얼마나 깊이 참여하도록 할 것인지 입니다. 결국 경쟁자들 역시 같은 도구를 사용하게 되면 무슨 차별화가 있을 것인가 하는 문제이고, 결국 담당자의 개입이 적극적으로 필요해지는 상황이 역설적으로 발생합니다. 또 다른 문제는 RFP 평가 역시 AI에 의지하게 되리나는 점입니다. 제안과 심사 모두 AI에 의해 좌우된다면 궁극적으로 AI의 효용성은 어디에 있는 것까요?

사실 가장 큰 이슈는 인력 고용의 문제입니다. T사는 2022년 9월에 직원 11%를 해고했고, 올 2월에 추가로 17%를 해고했습니다. 기업의 효율성을 더욱 강조하는 기업은 결국 비용을 줄여나가는 방향으로 흘러가게 됩니다. 직원의 입장에선 무작정 반길 수만은 없는 일입니다.

19세기의 러다이트 운동이 21세기에 다시 불붙을 가능성은 언제나 있다.

그럼에도 불구하고

비즈니스에 최적화된 Generative AI가 기업의 영업 업무의 효율성을 극대화할 것은 명백합니다. T사의 추정에 따르면 RFP 작업의 약 80%를 Generative AI 가 처리하고, 나머지 20%을 담당자가 마무리할 수 있다고 합니다. 결국 이런 혁신은 멈추지 않을 것이고, 해당 도구의 성능도 점점 향상될 것입니다. RLHF(Reinforcement Learning from Human Feedback) 방식은 인간의 피드백을 통한 강화학습을 일컫는 말입니다. 담당자의 피드백은 해당 도구의 성능을 더욱 개선시킬 것입니다. 단순히 성능 개선만을 의미하지는 않습니다. 기업 또는 담당자의 특성들이 더 반영되는 결과물을 기대할 수 있습니다. 이런 과정들을 통해 점점 더 효과적인 영업 보완 도구로서의 Generative AI의 성장이 이루어질 것입니다.