LLM 모델을 클라우드에서 손쉽게 운영하는 방법: TGI와 Google Cloud의 만남

Google Cloud는 Hugging Face에서 제공하는 다양한 AI 모델들을 Cloud Run과 GKE라는 서비스를 통해 간편하게 사용할 수 있도록 지원합니다. 관련해 이번 포스팅에서는 Hugging Face의 TGI(Text Generation Inference)를 활용하는 방법을 알아보려 합니다.  *Hugging Face는 인공지능, 특히 자연어 처리(NLP) 분야에서 가장 유명한 오픈 소스 커뮤니티이자 플랫폼입니다. 마치 GitHub이 개발자들에게 코드를 공유하고 협업하는 공간이라면, Hugging Face는 AI 모델을 공유하고…

LLM & SLM 시대에 맞게 진화를 거듭하고 있는 GKE

요즘 AI 전환에 대한 관심이 높아지면서 거대 언어 모델(Large Language Model, 이하 LLM)과 특정 분야나 작업에 최적화된 소형 언어 모델(Small Language Model, 이하 SLM) 관련 프로젝트를 준비하거나 추진 중인 조직이 많습니다. 사실상 AI 프로젝트를 추진하는 데 필요한 GPU 서버로 구성한 인프라와 MLOps 플랫폼 그리고 이를 운영할 인력을 잘 갖춘 곳은 그리 많지 않습니다. 그렇다고 해서…

AI 에이전트로 시작하는 새로운 시대: Vertex AI Agent Builder로 쉽게 구현하기

  25년 많은 조직이 주목하는 AI 관련 키워드는 무엇일까요? 아마 ‘AI 에이전트(AI Agent)’를 많은 이들의 관심이 몰리고 있을 것입니다.  Google Cloud Next ’24(이하 넥스트)를 관심 있게 보았다면 아마 “AI 에이전트”라는 용어가 낯설지 않을 것입니다. 넥스트 행사를 통해 다음과 같이 다양한 AI 에이전트를 소개한 바 있습니다. 이 개념을 놓고 거대 언어 모델(LLM) 기반 생성형 AI 기능을…

메가존소프트가 스마트 제조 혁신 코리아 2024에 참가합니다!

메가존소프트가 혁신적인 제조 기술과 스마트 솔루션을 통해 제조산업의 경쟁력을 강화하는 현장을 함께합니다.   [날짜] 2024년 11월 27일(수)~29일(금), 오전 10시~오후 5 [장소] 양재 aT센터 제1전시장 메가존소프트 부스로 오셔서 스마트 제조 혁신의 미래를 경험하세요!   ✔️ 왜 메가존소프트 부스를 방문해야 할까요? Google Cloud 맞춤형 솔루션: 메가존소프트의 전문가들이 기업 환경에 최적화된 Google Cloud 솔루션을 제시해 드립니다. 성공적인 클라우드 전환 사례:…

Mega Discovery Club 멤버십 공지 페이지

Google Cloud 입문 교육 Season 1 Google Cloud Fundamentals : Core Infrastructure 🎥 2025. 2. 18. 13:00 ~ 17:30 구글 클라우드 기초 교육 과정을 담은 이번 웨비나는 구글 클라우드 제품과 서비스에 대한 전반적인 지식을 쌓을 수 있는 과정으로 구성되어 강의와 실습이 병행되어 진행될 예정입니다.   해당 교육 과정에 꾸준히 참여하여 실습까지 완료하신 Mega Discovery Club…

Smart Factory Promotion

📢 Promotion 안내제조업의 디지털 전환을 위한 Road to Smart Factory 세미나/웨비나에 참석해 주셔서 감사합니다. 참석해 주신 여러분을 위해 메가존소프트가 프로모션을 준비했습니다.Special Promotion 1Google Workspace 200 Seat 이상 + Chrome Enterprise Upgrade 40 Unit 이상 도입 고객Special Promotion 2200인 이상의 기업 중 Google Workspace 50 Seat 이상 도입 고객Google Workspace 이점구글 워크스페이스는 협업을 위한 최고의 효율을…

[AI] 조직 전체에서 스토리 전달에 도움되는 AI 기반 비디오 제작 앱 Google Vids 일반 출시

지원되는 버전 : Google Workspace Business Standard 이상, Gemini Business, Gemini Enterprise * Google Workspace for Education 고객을 위한 Vids 제공 여부에 대한 자세한 내용은  다음 Workspace 업데이트 블로그 를 참조하세요. 올해 초, Google은 Google Workspace 제품군의 최신 생산성 앱인 Google Vids를 발표했습니다. 이 AI 기반 비디오 제작 앱은 고객 서비스, 학습 및 개발, 프로젝트…

[AI] Gemini에 7개 언어 일반적으로 사용 가능

지원되는 버전 : Gemini Business, Gemini Enterprise 부가 기능 오늘부터 모든 사용자*는 Google Docs, Google Sheets, Google Drive 및 Gmail의 사이드 패널에서 Gemini를 7개 추가 언어로 사용할 수 있습니다. French German Italian Japanese Korean Portuguese Spanish 스페인어 Gmail 사이드 패널의 Gemini Workspace 앱의 사이드 패널에 Gemini가 있으면 이메일, 문서 등을 기반으로 수집된 통찰력을 활용하여 요약,…