MS가 오픈AI에 목숨걸지 않는다? AI스타트업이 푹 빠진 OOO 공개👀

마이크로소프트의 코파일럿이 그리는 큰 그림과 AI 스타트업이 요즘 열심히 활용하는 랭체인에 대해 말씀드릴게요.

챗GPT, LLM 관련 핵심 요약은 지난 뉴스레터 보기에서 보실 수 있습니다.

알찬 AI 정보 계속 업데이트 하겠습니다. 주위에 올거나이즈 뉴스레터 구독 많이 소개해 주세요. 

1. MS는 오픈AI에 목숨 걸지 않는다, 생태계 구축의 큰 그림

MS의 코파일럿은 생산성으로 대표됩니다. 사티아 나델라 CEO는 글로벌 GDP의 성장과 기술 혁명 간의 관계를 보여주는 그래프를 강조합니다. 80억 인구를 위한 일상의 혁신을 MS의 미션으로 생각하고 있다는 것이죠.

깃허브의 코파일럿이 개발자들의 생산성을 혁신한 것처럼, 오피스 365에서 코파일럿을 사용하면 모든 업무의 영역에서 생산성을 개선하겠다는 것입니다. 풀 키노트 영상을 보시면, 사티아 나델라는 50개가 넘는 발표 사항 중 하이라이트 5가지를 먼저 이야기합니다.

1. 챗GPT+빙
   : 챗GPT의 최신 데이터 부족을 빙으로 해결, 챗GPT 플러그인을 빙 챗에서 동시 사용 가능
2. 윈도+코파일럿
   : 검색, 추천, 생성을 윈도 환경에서 더 잘 쓸 수 있게+윈도의 수많은 앱을 더 잘 활용할 수 있게
3. 코파일럿+플러그인
   : 코파일럿에 들어갈 외부 플러그인 개발 가능, 플러그인 선택 없이도 자동으로 내용에 맞게 플러그인 적용
4. 애저 AI 스튜디오
   : 보안성 강화 강조, 혐오/유해/폭력 콘텐츠 검증 가능
5. 마이크로소프트 패브릭
   : 통합 데이터 분석

아래 그래프처럼, MS는 글로벌 GDP의 성장을 견인할 AI 기술 생태계를 만들어가겠다는 의지를 보여주고 있는데요.

챗GPT의 약점(최신 데이터 부족)을 빙으로 보완하고, 윈도에 코파일럿을 넣는 것은 예상되는 일이었습니다. 코파일럿에 들어갈 외부 플러그인 개발이 가능해지면서, 플러그인 생태계에서 오픈AI와 어쩔 수 없는 경쟁 구도가 되는 것도 계속 예견된 일이었죠.

이번 발표에서 흥미로웠던 점은 애저 AI 스튜디오에서 오픈소스 LLM 모델을 지원하는 것이었습니다.
오픈AI와 허깅 페이스의 모델 외에도 다른 LLM 모델을 편하게 갈아끼워서 쓸 수 있도록 모델 카탈로그를 지원하는데요. 
오픈AI의 GPT 패밀리 모델 외에도 상업적으로 쓸 수 있는 다른 LLM 모델이 등장한다면, 파급력이 커질 수 있을 것 같습니다.

빠르게 변화하는 AI 기술 생태계에서, 어떤 모델이 나오더라도 애저 클라우드 위에서 생태계를 만들어 가져가려는 MS의 큰 그림이 아닌가 싶네요.

또한 폭력/혐오/성/자해 콘텐츠를 파악하는 필터를 제공해 사전에 테스트를 해볼 수도 있고, 콘텐츠 제출을 막을 수도 있게 했습니다. 기업을 위한 AI 프로젝트를 진행할 때 항상 제기되는 문제인데요. 이 부분도 개발자가 편하게 적용할 수 있도록 만들어 놨습니다.

거대 언어모델(LLM)을 만드는 것보다 LLM을 쉽게 활용할 수 있는 인프라를 잘 만들어서 팔겠다는 전략이 느껴지네요.

2. 언제까지 채팅만? GPT 능력에 날개를 다는 랭체인!

챗GPT의 놀라운 대화 능력은 GPT 모델에서 옵니다. 엄청나게 많은 지식을 갖고 있는 듯 보이고, 추론 능력도 뛰어납니다. 이렇게 훌륭한 모델이라면 질문에 답하는 것 말고도 더 잘할 수 있는 것이 많지 않을까요?

그래서 요즘 올거나이즈를 비롯한 AI 스타트업과 엔지니어들은 '랭체인(LangChain)'으로 LLM 응용 프로그램을 빠르게 만드는 실험을 하고 있습니다.

랭체인은 체인에서 연상되듯, 다양한 기능과 서비스를 연동해 더 강력한 형태로 LLM 서비스를 만들 수 있게 도와주는 프레임워크입니다.
핵심은 다양한 구성 요소를 함께 "연결"하는 것인데요. 챗GPT에서 썼던 것같은 프롬프트를 여러 개 연결해서, 한 프롬프트에 대한 결과가 다음 프롬프트의 입력 값이 되는 식으로 연결해 길고 복잡한 업무를 이어갈 수 있습니다. 외부의 문서에서 정보를 가져와서 요약하거나, 질의응답을 할 수도 있고, 구글 검색이나 계산기처럼 기존의 챗GPT에서 하지 못했던 툴을 연결해 사용할 수도 있습니다.

랭체인의 에이전트가 정말 강력한데요. 에이전트는 스스로 프롬프트를 해석하고, LLM을 사용하여 어떻게 이어가야하는지 결정합니다. 웹 검색 또는 계산기와 같은 도구가 필요하면 불러와서 사용하기도 합니다. 

랭체인을 이용하면 대화를 계속해서 기억해 이어가는 챗봇 상담원이나, 회사 내부의 문서에서만 답변하게 하는 검색 기능 향상 등을 만들 수 있는데요.

올거나이즈에서는 HR, 회계, 마케팅 등 각 직무별 업무 자동화를 위한 LLM 애플리케이션을 개발해 앱 마켓 형태로 고객사에 제공중입니다.
우리 회사를 위한 맞춤형 업무 자동화 AI 앱이 궁금하시다면 문의를 남겨주세요!