AI 유니콘 코히어의 업무 생산성 혁신 3단계 전략, 핵심은 ⭕⭕⭕

7월 6일부터 모든 OpenAI API 개발자가 GPT-4 액세스 권한을 얻었고, 7일에는 코드 인터프리터 플러그인이 공개되었습니다. 누구나 쉽게 통계분석과 데이터 과학자 역할을 할 수 있고, 환각 현상도 상대적으로 낮다고 합니다. 앤트로픽의 2세대 AI 챗봇 Claude 2는 11일부터 미국과 영국에서 베타 버전으로 출시되었습니다.

오늘은 코드 인터프리터와 AI 유니콘 기업 Cohere의 AI 업무 생산성 향상 전략에 대한 글을 소개해 드릴게요.

챗GPT, LLM 관련 핵심 요약은 지난 뉴스레터 보기에서 보실 수 있습니다.

알찬 AI 정보 계속 업데이트 하겠습니다. 주위에 올거나이즈 뉴스레터 구독 많이 소개해 주세요. 

1. 엑셀 못하는 부장님? AI 데이터 분석 못하는 대리님도 큰 일!
- 챗GPT 플러그인, 코드 인터프리터

챗GPT 플러그인 코드 인터프리터(Code Interpreter)는 AI가 코드를 실행하고, 데이터를 분석하고, 차트를 만들고, 파일을 편집하고, 수학적 연산을 수행할 수 있게 하는 강력한 기능을 갖고 있습니다. 지도, 데이터 시각화 및 그래픽을 생성하고, 음악 재생 목록을 분석하고, 대화형 HTML 파일을 만들고, 데이터 세트를 정리하고, 이미지에서 색상 팔레트를 추출할 수도 있습니다.

챗GPT 플러스 사용자는 계정 설정에서 활성화할 수 있고, 파이썬 코드를 작성하며, 최대 100MB 크기 파일을 업로드해 작업을 실행할 수 있습니다. 파일을 올려보니 다양한 형식의 파일 업로드가 가능하고, 압축 파일도 그대로 올린 다음, 챗GPT가 알아서 파일을 풀어서 작업할 수도 있게 만들 수도 있었습니다. PDF에서 텍스트를 추출하거나 이미지를 비디오로 변환하는 것도 가능해 GPT-4 이후 가장 큰 업데이트라는 평을 받고 있습니다.

코드 인터프리터는 데이터 과학자를 위한 도구가 아니라, 데이터 분석이 필요한 모든 노동자를 위한 툴입니다. 복잡한 정량 분석 자동화, 데이터 병합 및 정리, 데이터에 대한 추론이 가능합니다. 데이터 과학자를 대체하는 게 아니라, 일상 업무에도 데이터 과학을 쉽게 적용시킬 수 있게 도와주죠. 확실히 AI 및 데이터 과학의 새로운 표준을 만들어가는 느낌입니다

예를 들어, 디지털 마케팅 전문가가 검색 엔진 최적화(SEO)를 개선하기 위해 코드 인터프리터를 사용할 수도 있죠. 캠페인과 광고 데이터 파일을 업로드한 다음, 캠페인의 주요 성과 지표, 약점과 강점, 테스트를 더 해야 할 부분을 요청할 수 있습니다.

뉴스레터 유료 구독률 향상을 위한 데이터 분석을 10분 만에 코드 인터프리터로 완료한 예시가 있습니다. 미국과 중국의 기술 정책을 다루는 ChinaTalk 뉴스레터 운영자 조단 슈나이더는 2만 5천자 분량의 구독자 데이터 세트 파일을 챗GPT에 업로드했더니, 유료 구독자 성장 계획을 만들기 위한 파이썬 코드를 알아서 작성하기 시작했다고 합니다. 코흐트 분석으로 차트 만들기, 수익 창출을 위한 차트와 유무료 구독자간 구독 기간 차이를 보여주는 차트 등을 몇 번의 대화로 완료해서 만족스러웠다고 하네요.

저는 6년 전에 파이썬 기초를 배우면서 Beautiful Soup 라이브러리로 웹페이지 크롤링을 하는 코드를 짜기까지 한 학기가 걸렸던 기억이 나는데요. 이제 가장 대세가 되는 프로그래밍 언어가 "영어"라는 게 실감나는 중입니다. 코드 인터프리터는 아직 한국어는 제대로 인식하지 못하고, 영어로 명령어를 던져주면 이런 복잡한 데이터 분석 작업이 아주 빠르고 쉽게 완료됩니다.

오픈AI는 AI GPU 확보 상황에 따라 내년까지 계속해서 신기능을 출시할 예정이라고 합니다.

2. AI 유니콘 기업이 밝히는 업무 생산성 혁신 전략 3단계

오픈AI의 대항마인 AI 유니콘 기업 코히어(Cohere)에서 생성AI와 LLM이 어떻게 업무 생산성을 혁신하고 있는지에 대한 글을 발행했습니다.
(How Generative AI and LLMs Unlock Greater Workforce Productivity)

코히어는 인간-컴퓨터 인터페이스의 첫 번째 혁명이 웹, 두 번째가 스마트폰이었다면, 세 번째는 LLM이라고 보는데요. 웹이 3조 3천억 달러의 글로벌 경제 성장 창출, 스마트폰이 4조 5천억 달러의 성장을 만들었고, LLM은 미국에서만 1조 달러 또는 GDP의 4%에 달하는 경제적 가치와 성장을 실현할 수 있는 유사한 잠재력을 가지고 있다고 봅니다.

LLM이 생산성에 미치는 영향에 대한 연구를 요약해 보면 다음과 같습니다(MIT, NBER, Goldman Sachs, OpenAI/University of Pennsylvania, Accenture).

• 미국 노동력 80%에 영향을 미칠 것
• 전 세계 GDP 7% 증가(골드만 삭스)
• AI로 코딩 작업 속도 200% 향상(MIT)
• 고객지원, AI 지원 문제 14% 증가, 생산성 10~20% 증가

코히어는 LLM이 지식 근로자를 위한 지능형 동반자 역할을 하는 지식 도우미(Knowledge Assistant)로 변모하며, 업무 생산성 혁신이 3단계로 진화할 것이라고 예측합니다.

• 1단계: 현재
  거대 언어 모델(LLM)이 전반적으로 학습 및 배포되는 단계.
  사용자는 챗GPT 같은 프론트엔드 도구를 활용해 텍스트 구상, 작성, 개선에 도움을 받음.
  기업의 자체 데이터 사용은 거의 일어나지 않음
   
• 2단계: 검색 증강 생성(Retrieval Augmented Generation, RAG) 활용
  LLM이 기업 데이터에 대한 전체 접근 권한을 갖게 되는 단계. 
  사용자는 챗봇과 같은 형태로 언어 모델과 상호작용할 수 있음.
  (예: 스크랜턴 지사의 최근 보고서 5개를 요약하고, 최고의 영업 사원 선발)
  사무직 노동자가 하는 거의 모든 작업을 효율적으로 검색, 종합, 보고하는 지식 도우미(Knowlede Assistant) 역할.
   
• 3단계: 지식 도우미의 직접 실행 단계
  지식 도우미가 기업 내 시스템과 안정적으로 상호작용하는 단계, 실제 작업의 실행까지 맡아서 진행
  기업의 시스템과 인터페이스의 다양성을 고려할 때 시간이 걸리겠지만, LLM이 필요 형식을 비교적 빠르게 생성하고 이해할 수 있을 것으로 예상
  음성/텍스트 인터페이스로 작업자 안전이 개선되는 경우, 방대한 서류를 다루는 작업의 경우 조기 채택 가능성 높음

위의 1~3단계에서 핵심은 기업 내 데이터와 LLM의 상호작용입니다. LLM이 기업내 데이터에 접근할 수 있어야 업무 생산성을 개선할 수 있다는 것인데요.

코히어는 경쟁 업체에 뒤쳐지게 될까 걱정하는 비즈니스 리더를 향해 간단하고 명확하게 제안 합니다. "LLM 기반 도구를 직접 써보라"는 것이죠.
직접 사용하고 기능을 활용해서 LLM의 힘과 잠재력을 느껴봐야 기업 내 영역을 어떻게 변화시킬지, 생산성 향상을 위한 리소스 최적화를 어떻게 할지에 대한 기회를 포착할 수 있게 됩니다.

직접 써보고, 다른 기업은 어떻게 쓰고 있는지 벤치 마킹을 하는 것도 필요한 시점입니다.

LLM 솔루션을 우리 기업에서 바로 적용해서 사용하고 싶다면, 기업이 쓸 수 있는 제대로 된 맞춤형 AI 모델이 필요하시면 올거나이즈에 문의 주세요.