오픈AI GPT-4 터보+어시스턴트 API+GPT 스토어가 압살할 AI 생태계 정리🥶

작년 11월 30일 챗GPT 출시 후 AI 업계에 많은 변동이 있었는데요. 11월 6일에는 오픈AI의 첫 개발자 컨퍼런스가 열렸습니다. 샘 알트먼 CEO는 챗GPT의 주간 활성 사용자 수가 현재 1억 명이며, 포츈 500대 기업의 92% 이상을 포함하여 2백만 명 이상의 개발자가 사용중이라고 밝혔죠.

오늘은 오픈AI의 데브데이 발표 내용을 요약하고, 영향을 받게 될 AI 기업들에 대해 살펴보겠습니다.

오픈AI 데브데이, 무늬만 AI인 기업들은 떨고 있다

OpenAI는 AGI(Artificial General Intelligence)를 통해 세상을 점진적으로 변화시키겠다는 목표를 향해 AI 기능을 더욱 발전시킨 새로운 제품들을 DevDay에서 공개했습니다.

GPT-4의 더 강력하고 저렴한 버전인 GPT-4 Turbo, 개발자가 AI 앱을 더 쉽게 구축할 수 있게 돕는 어시스턴트 API, 비전+이미지 생성+TTS를 포함한 새로운 다중 모드 기능 등입니다.

발표의 주요 내용을 하나씩 살펴보며, AI 업계에 미칠 영향을 정리해 보겠습니다.

1) 저렴하고, 빠르며, 더 긴 컨텍스트창 제공, GPT-4 터보

GPT-4 Turbo는 현재 GPT-4 모델의 8,000개 토큰 제한에 비해 훨씬 더 긴 대화 컨텍스트(최대 128,000개 토큰)를 처리할 수 있습니다. 300페이지 책 길이에 해당하는 훨씬 더 긴 대화가 가능합니다.

23년 4월까지의 정보를 포함해 학습되었고, 결과물이 나오는 속도도 빠릅니다. 업그레이드된 메모리와 추론 기능을 갖추고 있습니다. 한 번에 두 개 이상의 함수를 순차적으로 또는 병렬로 호출하는 것을 포함하여 JSON 출력 생성 및 함수 호출과 관련된 기능도 탑재되어 있습니다.

GPT-4 Turbo의 입력 토큰은 이제 $0.01로 GPT-4보다 3배 저렴하고, 출력 토큰은 $0.03으로 2배 저렴합니다. GPT-3.5 Turbo 입력 토큰은 $0.001로 이전 16K 모델보다 3배 저렴하고, 출력 토큰은 $0.002로 2배 저렴합니다. 

> 왜 중요한가요?

속도가 빨라졌다는 것은 LLM 빌더, 사용자 대상 앱을 구축하는 기업들에게 경쟁사보다 더 나은 선택지를 제공한다는 의미입니다. 컨텍스트 창이 4배 늘어난 것은 RAG(검색 증강 생성)를 더 전략적으로 적용할 수 있으며, 환각의 가능성을 줄일 수 있다는 것을 의미합니다.

> 영향을 받게 될 기업들은 어디인가요?

LLM API를 제공하는 기업: AWS Bedrock, Google PaLM 2, Anthropic (Claude Instant), Hugging Face

2) 단순 GPT 응용 스타트업의 위기, 어시스턴트 API

어시스턴트 API는 코드 인터프리터 및 검색과 같은 새로운 기능과 함수 호출을 제공하여 이전에 개발자들이 직접 수행해야 했던 많은 무거운 작업을 쉽게 처리하고 고품질 AI 앱을 구축할 수 있도록 해줍니다. 자연어 기반 데이터 분석 앱, 코딩 도우미, AI 기반 휴가 플래너, 음성 제어 DJ 등 다양한 앱을 쉽게 만들 수 있습니다. 

> 왜 중요한가요?

어시스턴트 API를 사용하는 개발자는 무한히 긴 스레드를 이용해 코드 인터프리터, 검색, 함수 호출을 할 수 있습니다. 특히 검색 기능에서 파일 업로드 기능이 주목할만 합니다. 이제 문서에 대한 임베딩을 계산하고 저장할 필요가 없으며 청크 분할 및 검색 알고리즘을 구현할 필요가 없습니다. 쉽게 말해 ChatPDF처럼 파일을 업로드 하는 기능을 추가했던 서비스나, 복잡한 랭체인 앱이 필요 없어지는 것이죠.

> 영향을 받게 될 기업들은 어디인가요?

AutoGPT, Characther.AI, ChatPDF, LangChain, Adept

3) AI 개발자와 기업을 뒤흔들 수 있는 GPTs와 GPT 스토어

비개발자도 누구나 쉽게 자신만을 위한 맞춤형 챗GPT를 만들 수 있는 것이 GPTs입니다. 코딩이 필요하지 않으며, 대화형으로 지침과 추가 지식을 제공하고, 웹 검색, 이미지 만들기, 데이터 분석 등이 가능해집니다. 

또한 엔지니어가 아닌 사람도 OpenAI 모델로 구동되는 소프트웨어를 구축한 후 다른 사람과 공유할 수 있습니다. OpenAI의 새로운 GPT 스토어를 통해 해당 에이전트로 수익을 창출할 수도 있습니다. GPT 스토어는 이번 달 말에 출시될 예정입니다.

> 왜 중요한가요?

이전의 앱스토어, 구글 플레이 등에서 스타 개발자들이 탄생했던 것처럼, 아이디어를 제대로 구현한 AI 개발자들은 GPT 스토어에서 엄청난 수익을 얻을 수 있습니다. 
특정 기업의 요구 사항과 내부 데이터에 맞는 전용 GPT를 배포할 수 있습니다. 회사 내부 사용자가 코딩 없이 내부 전용 GPT를 설계하고 작업공간에 안전하게 게시할 수 있는 권한을 부여할 수 있습니다. 데이터 개인정보 보호를 보장하면서 마케팅, 고객 지원, 직원 온보딩과 같은 내부 작업을 위한 AI 솔루션을 만들어 운영을 간소화할 수 있습니다. 

> 영향을 받게 될 기업들은 어디인가요?

AutoGPT, Adept, Character AI, LangChain, Contextual AI, Hugging Face

오픈AI 데브데이 발표 이후, 기업용 AI 시장의 판도가 많이 바뀌게 될 것 같습니다. 
그런데 실제 기업의 AI 프로젝트는 오픈AI의 모델만 사용하지 않는 경우도 많습니다. 기업의 보안과 개인 정보 보호 지침에 따라 온프레미스 형태로 AI 모델을 구축해서 사용해야 하기도 하고, 멀티 클라우드를 쓰는 것처럼 멀티 LLM을 운용하기도 합니다.

뉴욕타임스의 11월 6일 보도에 따르면 Vectara가 빅테크 LLM 모델들의 환각을 연구한 결과, 오픈AI 3%, 메타 5%, 앤트로픽 클로드 2 8%, 구글 팜 채팅 27%라고 합니다.

LLM은 책, Wikipedia 기사, 온라인 채팅 로그를 포함한 엄청난 양의 디지털 텍스트를 분석하여 기술을 학습하고, 패턴을 통해 다음 단어를 추측하는 방법을 배우기 때문에 환각은 일정 부분 일어날 수밖에 없는데요.

위에서 잠시 언급한 것처럼 랭 체인이나 RAG 적용 등으로 환각을 줄여나가고 있습니다. 
기업이 이제 점점 더 AI 프로젝트를 확장하는 가운데, 기업에 가장 적합한 기술을 적용하고 동시에 안전하게 사용하는 노하우가 점점 더 중요해지는 시기입니다.

월스트리트 젠(Wall Street Zen) 분석에 따르면  지난 1년 반 동안 S&P 500 수익 보고서에서 "AI"를 언급한 수가 급증한 것으로 나타났습니다. 2022년 1분기 AI 언급은 총 1,156건이었다가 올해 2분기에는 7,358건으로 늘어났습니다. 이는 연초에 비해 366% 증가한 수치입니다.

또한 실적 발표 중 AI를 언급한 기업은 이후 3일 동안 평균 주가가 4.6% 상승했는데, 언급하지 않은 기업의 2.4% 상승보다 거의 두 배죠. 기업 주식의 67%가 AI를 언급한 후 상승했으며, 이들 기업의 상승률은 평균 8.5%였습니다. 

이렇게 AI가 비즈니스에 영향력을 미치는 것이 더욱 더 가시화되고 있습니다.
AI를 이용해 수많은 사내 문서에서 비즈니스 인사이트를 도출하고, 업무를 자동화해서 생산성을 혁신하는 일을 지금 바로 할 수 있다면 어떨까요?

바로 사용할 수 있는 LLM 앱 마켓부터 우리 회사 전용 LLM 모델 구축까지 LLM의 다섯 가지 레이어 핵심 기술을 모두 제공하는 올거나이즈와 함께 지금 바로 LLM을 시작해 보세요.