a16z가 본 B2B AI의 핵심- '정보의 생성' 아닌 '정보의 합성'

기업이 생성AI를 도입할 때 B2C 영역의 생성AI와 어떻게 달라야 할지, 23년 하반기와 24년 LLM 혁신 방향 네 가지에 대한 앤드리슨 호로위츠(a16z)의 아티클을 소개하려고 합니다. 

정보의 생성이 아닌 '정보의 합성', 그리고 정보의 실행을 위한 툴 연결이 중요하다는 내용입니다. 

챗GPT, LLM 관련 핵심 요약은 지난 뉴스레터 보기에서 보실 수 있습니다.

알찬 AI 정보 계속 업데이트 하겠습니다. 주위에 올거나이즈 뉴스레터 구독 많이 소개해 주세요. 

1. 챗GPT 폭발은 정보의 생성, 이제는 '정보의 합성' 시대

앤드리슨 호로위츠(a16z)는 a16z는 넷스케이프 공동 창업자였던 마크 앤드리슨과 벤 호로위츠가 2009년에 설립한 벤처 캐피털입니다. 이들은 기술기업에 대한 과감한 투자로 트위터, 페이스북, 에어비앤비 등을 초기에 발굴하기도 했죠. 

a16z는 생성AI에 대한 아티클도 지속적으로 내면서, AI 생태계와 기술 트렌드도 다루고 있는데요. 그 중에서도 "For B2B Generative AI Apps, Is Less More?"에서 기업에서 생성AI를 도입할 때의 방향성에 대해 다루고 있어 흥미롭습니다. 

a16z는 현재의 "Wave 1"은 정보의 다양성에 초점을 맞춰 정보를 생성하는 단계, "Wave 2"는 기업 내 정보를 합성(압축하고 요약)해서 인사이트를 도출해내는 단계로 봅니다. 즉, 생성 AI가 엔터프라이즈의 워크플로에 포함되어야 한다는 것이죠. 

위의 그림을 보시면 이해가 더 잘 되실 것 같은데요.
1단계가 프롬프트에서 다양한 정보를 담은 콘텐츠를 많이 생성해 내는 것이라면
2단계는 방대한 양의 기업 내 정보에서 하나의 인사이트를 도출해 내서, 시간을 절약하고 퀄리티를 개선하는 것이 목표입니다. 

1단계의 일반적인 데이터와 달리 2단계에서는 산업 특화된 데이터, 미세조정된 언어모델이 중요해지게 되죠.

생성AI에서 B2C앱은 즐겁고 재미난 콘텐츠를 많이 만들고, 공유할 수 있게 합니다. 챗GPT에 세종대왕 맥북 던짐 사건을 묻고, 스노우 앱에서 멋진 프로필 사진을 만들어 보는 것처럼요. B2B앱은 시간과 품질이 중요합니다. 동일한 시간에 더 나은 품질을 생성하거나, 동일한 품질을 더 빠르게 생성해야 하죠. 

1단계의 생성AI가 기업에서 지금 어떻게 쓰이고 있나요? 
마케팅 카피를 빠르게 많이 만들어 내거나, 세일즈를 위한 이메일을 대량으로 만들거나, 브레인스토밍이나 초안 잡기에 활용되고 있는데요. 궁극적으로는 인간이 개입해서 최종적으로 편집해야 하죠. 특히 법률이나 계약 같은 문서는 더 그렇습니다. 어느 부분에 환각이 들어갈지도 모르고요. 차라리 인간이 처음부터 하는 게 낫다는 평이 나오는 이유입니다.

그래서 a16z는 정보의 생성에서 정보의 합성으로 초점이 이동할 것으로 봅니다. 
AI가 많은 양의 정보를 요약해, 의사 결정의 품질/속도를 높이게 된다는 것이죠. 사람이 일일이 처리할 수 없을 정도의 대량의 정보와 높은 신호 대 잡음비(명확한 의사 결정 구역)에서 "정보의 합성"이 특히 더 빛을 발할 것이라고 합니다.

2. 기업이 AI를 잘 쓰려면, LLM에 팔다리를 붙이자

이렇게 정보의 합성을 통해 인사이트를 도출한 뒤, 정보의 실행까지 자동화된 워크플로우로 녹여내려면 어떻게 해야할까요?

지난 뉴스레터에서 LLM의 기억력을 높여주는 벡터 DB에 대해 설명 드렸는데, 정보의 실행을 위해서는 팔과 다리가 필요하겠죠. a16z는 향후 6~12개월 동안 LLM에서 네 가지 주요 혁신이 있을 것으로 봅니다. 미세 조정, 메모리, 팔과 다리, 다중 모드인데요.

이미 잘 알고 계시는 오픈AI의 챗GPT 플러그인도 이런 팔다리에 해당이 되죠. 최근에는 함수 호출을 통해 개발자가 GPT 기능을 자유롭게 외부와 연결할 수 있게 했고요. AI21 Labs는 계산기, 날씨 API, wiki API 등 툴과 LLM 모델을 결합해 기존 LLM의 한계를 극복하는 JurassicX를 내놓기도 했습니다.

이렇게 팔과 다리를 붙이게 되면, 기업 내 업무 생산성을 높이는 다양한 사례가 혁신적으로 늘어나게 됩니다. 예를 들어 세일즈포스를 LLM과 통합한 뒤, 마케터가 유효한 리드를 추출하거나, 특정 타겟을 추출할 때 자연어로 질문을 던져 바로 실행할 수 있게 하고, 대시보드나 리포트 생성도 자연어 질문으로 바로 할 수 있게 된다면 업무 시간이 엄청나게 줄어들겠죠. 

3. 기업 업무 자동화를 위한 LLM 앱, 1분만에 만들 수 있을까?

올거나이즈의 Alli는 기업 내 업무 자동화를 위한 다양한 시나리오를 바로 만들 수 있습니다. 아래처럼 질문하기, 데이터 불러오기, 변수값 설정하기 등의 시나리오를 비개발자도 쉽게 순서도 짜듯이 만들 수 있어요. 

사내의 수백만개의 비정형 문서를 대상으로
- 어떤 제목/내용의 문서를 가져와봐
- 그 문서 내용을 요약해 봐
- 이런 저런 질문에 답해 봐
- 이 프로젝트의 이런 경향성에 대해서 요약해서 답해 봐

하는 게 알리에서는 모두 가능합니다. 사내 문서를 대상으로 정보를 요약하고 인사이트를 도출할 수 있도록 하는 '정보의 합성'에 최적화된 툴입니다.

GPT, 메타 라마2, 네이버 하이퍼클로바 X 등 여러 LLM 중 필요한 것을 선택해서 우리 회사에서만 쓸 수 있는 앱을 만들고 싶을 때도 알리가 답입니다.

단순한 챗GPT 적용 제품이 아니라, 기업이 쓸 수 있는 제대로 된 맞춤형 AI 모델이 필요하시면 올거나이즈에 문의 주세요.