Homepage Main

A collection of 62 posts

AI

[금융 LLM 시리즈 1] 성능 좋은 금융 AI 모델의 정의와 평가 방법

오픈AI의 GPT-4나 앤트로픽의 클로드3는 성능이 뛰어나지만, 망분리 규제를 받는 금융권에서는 사용이 어려운 측면이 있습니다. 온프렘 구축이 가능한 오픈소스 모델 중에서 성능 좋은 금융 AI 모델을 만들기 위한 올거나이즈 AI 팀의 고민과 진행 과정을 공유합니다. 금융 전문 LLM의 정의와 이를 평가하기 위한 방법론에 대해 올거나이즈 신기빈 CAIO가 방향을 제시합니다.

AI

[올거나이즈] 금융 전문 LLM 리더보드 및 테스트 데이터 셋 공개

올거나이즈가 금융 전문 LLM 리더보드와 테스트 데이터셋을 공개했습니다. 이를 통해 금융권 고객들이 자신의 업무에 적합한 LLM 모델을 효율적으로 평가할 수 있게 되었습니다. 금융 LLM 리더보드는 금융 용어와 복잡한 추론에 특화된 한국어 LLM의 성능을 평가하며, 테스트 데이터셋은 금융 문서 이해, 수식 계산, 표/차트 분석 등에 특화되어 있습니다. 금융 기업들이 LLM 도입 시 효율적인 성능 평가를 수행할 수 있을 것으로 기대됩니다.

AI

생성형 AI 환각 줄이는 기업용 RAG, 표+이미지까지 찾아야 게임체인저 (2)

생성형 AI의 환각을 줄이는 대안으로 RAG(검색증강생성) 기술이 부각되고 있지만, 복잡한 표와 차트, 이미지까지 해석해내는 RAG는 많지 않습니다. 기업용 RAG의 필요성과 올거나이즈의 기업용 RAG 방법론, 성능 향상을 위한 전략을 공유합니다.

AI

생성형 AI 환각 줄이는 기업용 RAG, 표+이미지까지 찾아야 게임체인저 (1)

생성AI의 환각을 줄이는 기술로 부각된 RAG(Retrieval Augmented Generation, 검색증강생성). RAG의 개념, 작동 원리 및 고성능 리트리버의 중요성과 RAG 성능을 높이기 위한 전략을 설명합니다.

AI

🍎애플도 생성AI 시장에 뛰어든다? 멀티모달LLM 아이폰 탑재?

애플이 멀티모달 LLM 논문을 조용히 공개했습니다. 생성AI 경쟁에 본격적으로 뛰어든 것일까요? 삼성 갤럭시24처럼 아이폰에서도 생성AI를 사용할 수 있게 될까요? 애플이 생성AI의 본격적인 강자가 될 수 있을지 분석해 보았습니다.

AI

[세미나] 금융권 AI 도입의 핵심 전략과 구축 사례(MS, SKT)

기업용 생성형 AI의 강자 마이크로소프트, SK텔레콤과 올거나이즈가 금융권 AI 도입 실무자 및 임직원을 위한 실제 사례를 발표합니다. 생성형 AI 기술 트렌드 및 금융 분야 적용 전략, 금융권 생성형 AI 프로젝트 성공을 위한 핵심 전략, 생성형 AI 금융권 적용 사례 및 고려 사항을 들으실 수 있습니다.

AI

클로드 3 vs GPT-4 vs 제미나이 전격 비교, 코딩 실력부터 가격까지!

3월 4일 공개된 앤트로픽의 클로드 3가 강력한 OCR 및 이미지 정보 처리로 구글의 제미나이와 오픈AI의 GPT를 위협하고 있습니다. Claude3, Gemini, GPT-4 세 모델을 비교해보고 각 모델의 특징과 코딩 실력, 가격 정보를 알려드리겠습니다.

AI

✏️"AI 네이티브 워크플로"가 뜬다! 잘나가는 AI 툴은 풀스택이라고?

23년이 LLM의 실험이었다면, 24년은 본격적으로 AI가 업무의 생산성을 혁신하는 사례가 늘고 있습니다. 그래서 AI 네이티브 워크플로 개념이 부상하고 있는데요. 창의성/업무전문성 영역에서 AI 네이티브 워크플로는 어떤 제품들이 등장하고 진화하고 있으며, 주요 시장 플레이어는 어느 곳인지 살펴보겠습니다.

AI

🎁생성AI+쇼핑 최신 사례, 아마존 루퍼스부터 엣시, 쇼피파이까지 총정리

LLM이 쇼핑과 결합된 2024년의 최신 사례를 소개합니다. 2월 들어 출시된 기능들이 많은데요. 아마존의 루퍼스, 엣시의 선물 모드, 쇼피파이의 사이드킥 등 LLM으로 할 수 있는 쇼핑 경험 향상에 대한 고민이 치열합니다. 모델 트레이닝이 따로 필요 없는 올거나이즈의 추천 LLM도 같이 소개합니다.

AI

올거나이즈, SOC2 및 HIPAA 인증 획득

올거나이즈가 글로벌 수준의 철저한 보안 운영을 입증하는 미국 SOC 2 Type II 인증 및 HIPAA 인증을 받았습니다. SOC 2 인증은 올거나이즈가 개인 정보 보호에 대한 업계의 인정된 기준을 충족하고 있음을 의미합니다. HIPAA 인증은 올거나이즈가 미국의 건강보험 이동성 및 책임에 관한 법률(HIPAA)의 엄격한 규정을 준수하는 기업이라는 것을 의미합니다.

AI

샘 올트먼+SK하이닉스, 마크 저커버그+엔비디아. AI 반도체 전쟁 승자는?

오픈AI 샘 올트먼이 6시간 동안 한국에 와서 할 일은? 삼성전자와 SK하이닉스를 방문합니다. 엔비디아를 벗어나 자체 AI칩의 개발과 생산을 모색하는 것이죠. 메타의 마크 저커버그는 올해 말까지 엔비디아의 H100을 35만장, 12조원 어치를 구매할 예정입니다. 엔비디아는 사상 최고가 600달러 돌파를 앞두고 있습니다. 아마존과 구글도 자체 AI칩을 개발중인데요. AI 반도체 전쟁에서 엔비디아, 오픈AI, 메타 등 글로벌 빅테크의 행보를 살펴보겠습니다.

AI

[CES 2024 특별판] 생성AI 주도권을 제대로 가져간 폭스바겐+월마트 사례

CES 2024에서는 모든 부스에서 AI가 보인다고 해도 과언이 아닙니다. 폭스바겐은 올해 전 차량에 챗GPT를 기본 탑재한다고 했고, 월마트는 쇼핑의 경험을 생성AI로 혁신하고 있습니다. 아마존은 알렉사에 생성AI 기능을 지속 업데이트하고 있습니다. 모빌리티, 커머스, 음성AI까지 생성AI가 다양한 디바이스에 탑재되는 것을 보실 수 있는데요. CES 2024에서 보는 생성AI의 생생한 사례를 정리해 보았습니다.

AI

KB·신한·하나·우리금융, 신년사에 ‘AI’ 키워드, 올해 전략은?

올해 금융권 신년사 키워드는 단연 'AI'입니다. 정부도 금융업에서 AI 활용을 독려하고 있는데요. AI 내재화와 고도화를 통해 리스크 관리와 내부통제 수준을 높일 수 있을 뿐만 아니라 중장기적으로 영업비용을 줄일 수 있습니다. 24년 금융+AI 인사이트를 위한 보고서를 요약 정리해봤습니다.

AI

[세미나] 24년 금융권 AI 도입 전략

올거나이즈+래블업+SKT가 2024년 금융권 기업의 AI 도입 전략과 활용 노하우를 공유합니다. AI를 활용한 금융 분석, 차세대 금융을 위한 LLM 앱을 소개합니다. 금융권에서 AI를 도입할 때의 주의점, AI 프로젝트를 효율적으로 운영하고 관리하며 생산성을 혁신할 수 있는 방법에 대해 알려드리겠습니다.

AI

[AI 트렌드 전망] 24년 생성AI 핵심은 생산성: 딜로이트/이코노미스트 보고서 요약

2024년 AI 트렌드를 정리해봤습니다. 트렌드코리아 2024, IT 트렌드 2024, 이코노미스트와 딜로이트의 2024 전망 보고서까지 골고루 다뤘는데요. 24년 생성AI의 핵심은 생산성, 현실화, 업무 효율화입니다. 실제 기업 현장에서 생성AI가 만들어낼 임팩트를 살펴보세요. 2024년 연간 계획 수립에 도움이 되었으면 좋겠습니다.

AI

[백서] 금융권 AI 도입 전략과 베스트 활용 사례

금융 시장에서의 생성형 AI 트렌드에 대해 올거나이즈가 기술 백서 "금융권 AI 도입 전략과 베스트 활용 사례"를 발간했습니다. 금융권의 핵심 KPI인 고객 경험 향상을 이끄는 AI 전략, 생성 AI를 도입할 때의 세 가지 과제 등 금융 AI 트랜스포메이션을 위한 전략과 사례를 소개합니다.

AI

오픈AI 샘 알트먼 해고 후 72시간 요약 정리-구글/앤트로픽/MS 중 승자는?🍿

오픈AI가 샘 알트먼을 해고하면서 엄청난 후폭풍을 맞고 있습니다. 해고 5분 전에야 소식을 알았던 마이크로소프트는 빠르게 샘 알트먼과 그렉 브록먼을 AI 리서치팀으로 고용했고, 오픈AI 투자자들은 알트먼이 복귀하지 않을 경우 이사회를 고소할 준비를 하고 있습니다. 주말 동안 오픈AI 고객사들은 구글과 앤트로픽, MS에 연락해 이동 가능성을 타진했습니다. 72시간의 반전 드라마를 간단히 요약해 드리고, 마이크로소프트와 앤트로픽, AI 투자자들의 동향을 공유해 드립니다.

AI

오픈AI GPT-4 터보+어시스턴트 API+GPT 스토어가 압살할 AI 생태계 정리🥶

오픈AI의 첫 개발자 컨퍼런스에서 다양한 기능들이 발표되었습니다. 더 싸고 더 빠르고 강력해진 GPT-4 터보, 무한 스레드를 제공하는 어시스턴트 API, 누구나 GPT를 만들어 수익을 낼 수 있는 GPT 스토어까지 전방위적인 업데이트가 있었는데요. 무늬만 AI였던 서비스들이 두려움에 떨고 있습니다. 화려하고 복잡한 랭체인과 GPT에 단순 기능을 더했던 스타트업들은 앞날이 불투명합니다.

AI

오픈AI의 retrieval은 못하는데 올거나이즈는 잘하는 것? - 복잡한 표에서 답 찾기

오픈AI가 어시스턴트 API의 툴로 retrieval 기능을 통해 파일을 업로드해 답을 찾는 것을 선보였습니다. 올거나이즈는 오픈AI의 발표 전부터 RAG 기능을 제품에 적용했고, RAG에 사용자 피드백을 반영하는 등 실제 사용 고객을 위한 장치를 마련해 두었는데요. 오픈AI vs. 올거나이즈, 복잡한 표에서 답을 잘 찾는 솔루션은 무엇이었을까요? 비교해서 바로 보여드립니다.

AI

[🇯🇵일본 특별판] 일본 기업 AI 도입 현황 조사+소프트뱅크 일본어 특화 LLM 개발 소식

일본 디지털청이 마이크로소프트와 손을 잡고 AI에 200만 달러 이상을 쓸 예정입니다. 일본 정부는 오픈AI가 아니라 왜 MS를 선택했을까요? 소프트뱅크가 AI에 투자한 금액이 1,400억 달러 이상인데 AI에서 존재감이 흐릿합니다. 이제 일본어 특화 LLM 개발에 뛰어든다고 하는데요. 소뱅이 이번에는 성공할 수 있을까요?

AI

기술 출시에서 '고객 중심'으로, 생성AI 2막 전략 로드맵 6️⃣단계

세콰이어캐피털의 '생성AI의 2막'은 생성AI가 '기술 출시' 단계에서 이제 '고객 중심'의 2막으로 진입하는 단계라고 분석하고 있습니다. 이제 실질적인 비즈니스 임팩트를 이끌어낸 사례가 중요해지고 있는데요. 석유 및 가스 산업, 헬스 산업에서 생성AI가 어떤 영향을 미치고 있는지 아람코와 엔비디아의 사례를 공유합니다. 기존 빅데이터 분석, 머신러닝과 다르게 생성AI는 반복적인 워크플로우 자동화, 거대 데이터에서 인사이트 도출 및 보고서의 빠른 생성 등의 차별화 지점을 보여주고 있습니다.

AI

메타의 메타버스 부활, "AI OOOO 챗봇" 수십 개 출격 준비중🤖

메타 커넥트 2023에서 주목해야 할 발표는 퀘스트3도 있지만, AI 챗봇입니다. 라마2 공개로 자신감이 붙은 메타가 다음 먹거리로 '페르소나 챗봇' 수십 대를 출격 준비중입니다. AI 페르소나 챗봇 출시의 목적은 무엇일까요? 세 가지입니다. 메타버스 부활, 사용자 확대, 개인 데이터 확보입니다. 이미 레드 오션이 되어가는 페르소나 챗봇에서 메타가 승리할 수 있을까요?

AI

🇨🇳중국 AI 현황 총정리. 바이두, 텐센트, 화웨이🆚오픈AI, 구글, 애플. 승자는?

바이두가 중국판 챗GPT 어니봇을 8월 30일 공개했습니다. 출시 19시간만에 100만 명의 사용자를 모았다고 하는데요. 오픈AI의 챗GPT는 100만 명까지 5일 걸렸죠. 텐센트는 자체 개발 LLM 훈위안을, 화웨이는 메이트 60 프로를 출시했습니다. 중국 빅테크들의 연이은 출시에 MS, 구글, 애플은 어떻게 영향을 받았을까요? 오늘은 중국 AI, LLM 현황을 정리하고 미중 테크 냉전을 짚어봤습니다.

AI

오픈AI 기업용 챗GPT 이제서야? MS는 등 돌리고 메타는 코웃음 친다는데💦

오픈AI가 기업용 챗GPT를 내놨습니다. 승부수는 보안 강화에 있는데요. 그 사이 마이크로소프트는 오픈소스 진영 대표주자 데이터브릭스와 손을 잡았고, 메타는 음성과 영상 생성AI 시장으로 확장하고 있습니다. 오픈AI의 기업용 챗GPT가 파장을 일으킬 수 있을까요? 오픈AI를 둘러싼 경쟁 구도 현황을 살펴봤습니다.

AI

기업용 금융 특화 LLM 모델 만들기 (2)- 학습전략과 비용

회사 내부의 약어, 전문 용어를 알아듣는 AI를 도입하려면, 비용이 어떻게 될까요? 데이터는 얼마나 준비해야 할까요? ROI를 위한 성능 평가는 어떻게 해야할까요? 기업용 금융 특화 LLM 모델을 만든 올거나이즈의 신기빈 CAIO가 LLM 학습 전략과 노하우를 상세하게 공유합니다.