LLM 모델을 클라우드에서 손쉽게 운영하는 방법: TGI와 Google Cloud의 만남

Google Cloud는 Hugging Face에서 제공하는 다양한 AI 모델들을 Cloud Run과 GKE라는 서비스를 통해 간편하게 사용할 수 있도록 지원합니다. 관련해 이번 포스팅에서는 Hugging Face의 TGI(Text Generation Inference)를 활용하는 방법을 알아보려 합니다.  *Hugging Face는 인공지능, 특히 자연어 처리(NLP) 분야에서 가장 유명한 오픈 소스 커뮤니티이자 플랫폼입니다. 마치 GitHub이 개발자들에게 코드를 공유하고 협업하는 공간이라면, Hugging Face는 AI 모델을 공유하고…

LLM & SLM 시대에 맞게 진화를 거듭하고 있는 GKE

요즘 AI 전환에 대한 관심이 높아지면서 거대 언어 모델(Large Language Model, 이하 LLM)과 특정 분야나 작업에 최적화된 소형 언어 모델(Small Language Model, 이하 SLM) 관련 프로젝트를 준비하거나 추진 중인 조직이 많습니다. 사실상 AI 프로젝트를 추진하는 데 필요한 GPU 서버로 구성한 인프라와 MLOps 플랫폼 그리고 이를 운영할 인력을 잘 갖춘 곳은 그리 많지 않습니다. 그렇다고 해서…

AI 에이전트로 시작하는 새로운 시대: Vertex AI Agent Builder로 쉽게 구현하기

  25년 많은 조직이 주목하는 AI 관련 키워드는 무엇일까요? 아마 ‘AI 에이전트(AI Agent)’를 많은 이들의 관심이 몰리고 있을 것입니다.  Google Cloud Next ’24(이하 넥스트)를 관심 있게 보았다면 아마 “AI 에이전트”라는 용어가 낯설지 않을 것입니다. 넥스트 행사를 통해 다음과 같이 다양한 AI 에이전트를 소개한 바 있습니다. 이 개념을 놓고 거대 언어 모델(LLM) 기반 생성형 AI 기능을…

메가존소프트가 스마트 제조 혁신 코리아 2024에 참가합니다!

메가존소프트가 혁신적인 제조 기술과 스마트 솔루션을 통해 제조산업의 경쟁력을 강화하는 현장을 함께합니다.   [날짜] 2024년 11월 27일(수)~29일(금), 오전 10시~오후 5 [장소] 양재 aT센터 제1전시장 메가존소프트 부스로 오셔서 스마트 제조 혁신의 미래를 경험하세요!   ✔️ 왜 메가존소프트 부스를 방문해야 할까요? Google Cloud 맞춤형 솔루션: 메가존소프트의 전문가들이 기업 환경에 최적화된 Google Cloud 솔루션을 제시해 드립니다. 성공적인 클라우드 전환 사례:…

Mega Discovery Club 멤버십

데이터로 혁신하는 스마트 제조 제조산업을 위한 실시간 데이터와 AI, ML 활용편 🎥 2024. 12. 11. 13:00 open 제조산업의 경쟁력은 이제 데이터를 어떻게 활용하느냐에 달려 있습니다. 데이터 수집을 넘어 이를 공정 개선과 비즈니스 혁신으로 연결하는 것이 핵심입니다. 이번 영상에서는 제조업의 데이터를 기반으로 AI와 머신러닝을 활용하여 실제 비즈니스에 변화를 일으킬 수 있는 방법을 제시합니다. 영상 신청하기 생성형…

Smart Factory Promotion

📢 Promotion 안내제조업의 디지털 전환을 위한 Road to Smart Factory 세미나/웨비나에 참석해 주셔서 감사합니다. 참석해 주신 여러분을 위해 메가존소프트가 프로모션을 준비했습니다.Special Promotion 1Google Workspace 200 Seat 이상 + Chrome Enterprise Upgrade 40 Unit 이상 도입 고객Special Promotion 2200인 이상의 기업 중 Google Workspace 50 Seat 이상 도입 고객Google Workspace 이점구글 워크스페이스는 협업을 위한 최고의 효율을…

[AI] 조직 전체에서 스토리 전달에 도움되는 AI 기반 비디오 제작 앱 Google Vids 일반 출시

지원되는 버전 : Google Workspace Business Standard 이상, Gemini Business, Gemini Enterprise * Google Workspace for Education 고객을 위한 Vids 제공 여부에 대한 자세한 내용은  다음 Workspace 업데이트 블로그 를 참조하세요. 올해 초, Google은 Google Workspace 제품군의 최신 생산성 앱인 Google Vids를 발표했습니다. 이 AI 기반 비디오 제작 앱은 고객 서비스, 학습 및 개발, 프로젝트…