Cloud Run과 GKE를 활용한 LLM 파인튜닝

최근 조직이 거대 언어 모델(LLM)을 미세 조정(Fine Tuning)하는 것에 관심을 보이고 있습니다. 파인튜닝은 LLM을 미세하게 조정하는 과정으로, 학습한 데이터를 그대로 따라가게 되면 현실적인 답과는 거리가 멀거나 활용하기 어려운 답변이 나올 수도 있기 때문에 쓰임새에 맞게 조정하는 작업 또한 반드시 필요합니다. * LLM은 방대한 양의 텍스트 데이터를 학습하여 인간의 언어와 유사한 텍스트를 생성하고 이해할 수 있는…

자연어로 데이터 분석하기 (Gemini, Bigquery)

  Gemini와 같은 생성형 AI 기술이 데이터 분석에 새로운 패러다임을 제시하고 있습니다. 사용자는 이 기술을 통해 BigQuery와 자연어로 대화하여 SQL 쿼리 작성 없이 데이터 분석을 수행할 수 있습니다. 이로써 비전문가도 데이터 분석에 쉽게 접근할 수 있게 되며, 기업은 보다 신속하게 데이터 기반 의사결정을 내릴 수 있게 됩니다.   데이터 분석 도구는 오랜 기간 누구나 쉽게…

[백서 다운로드🎁] 반드시 확인해야 하는 Next ’24 핵심 내용

안녕하세요. 메가존소프트입니다. 최근 IT 조직에서 서비스를 개선하고 내부 프로세스를 간소화하며 생산성을 높이기 위한 니즈가 높아지고 있습니다. 발전을 지향하는 업계의 요구에 맞춰 테크 기업에서는 다양한 기술을 출시하고 있는데요.   이처럼 AI와 클라우드 등의 기술이 비즈니스의 기본 요소가 되고 빠르게 업데이트 됨에 따라 최신 기술 트렌드와 동향을 파악하는 것은 IT 관계자들에게 필수 업무가 되었습니다. 지난 4월, 구글…

Google Cloud Next’24 Recap_ Gemini for Data

Google Cloud Next’24 Recap – Gemini for Data AI/ML 및 Gemini로 데이터의 가능성을 ‘무한’으로 끌어올리는 기업들    메가존소프트(MegazoneSoft)가 말하는(Talk) Google Cloud Next ’24의 기술, 세 번째 편은 ‘기조연설(Keynote Session) 중 Gemini를 활용한 기업 사례 ’입니다. *Mega Talk에 대해 알아보기   Google Cloud Next’24(이하 Next ’24)의 개발자 기조연설의 주제는 구글 크라우드의 생성형 AI(Generative AI)인 ‘Gemini’였습니다. 세계적인…

Google Cloud Next’24 하이라이트_Developer Keynote

Developer Keynote :  Fast. Simple. Cutting edge. Pick three 생성형 AI로 무한 가능성의 시대 앞에 선 개발자들 메가존소프트(MegazoneSoft)가 말하는(Talk) Google Cloud Next ’24의 기술, 두 번째 편은 ‘개발자 기조연설(Developer Keynote Session)’입니다. *Mega Talk에 대해 알아보기   Google Cloud Next’24(이하 Next ’24)의 개발자 기조연설의 주제는 구글의 생성형 AI(Generative AI)인 ‘Gemini’였습니다. Richard Seroter와 Chloe Condon은 개발자들이 Gemini를…

메가존소프트, 구글 클라우드 ‘올해의 세일즈 파트너상’ 2개 부문 수상

메가존소프트, 구글 클라우드 ‘올해의 세일즈 파트너상’ 2개 부문 수상   클라우드 선도 기업 메가존클라우드 관계사인 메가존소프트(대표 이주완)가 구글 클라우드로부터 ‘올해의 세일즈 파트너상(2024 Sales Partner of the Year)’ 2개 부문을 수상했다.    메가존소프트는 9~11일 미국 캘리포니아 라스베이거스에서 개최된 ‘구글 클라우드 넥스트 2024’에서 ▲아시아·태평양 ▲대한민국 등 2개 부문에서 ‘올해의 세일즈 파트너’로 선정됐다.   <메가존소프트가 구글 클라우드 올해의…

Google Cloud Next’24 하이라이트_Keynote

기조연설의 관통하는 주제  ‘고객을 Digital & AI 리더로 이끄는 클라우드’   메가존소프트(MegazoneSoft)가 말하는(Talk) Google Cloud Next ’24의 기술, 첫 번째 편은 ‘기조연설(Keynote Session)’입니다. *Mega Talk에 대해 알아보기   어떤 행사이건 기조연설은 가장 중요한 내용을 포괄적으로 소개하는 자리입니다. Next ’24 Keynote은 ‘새로운 클라우드 사용 방식(The new way to cloud)’이 키워드에 주목해 들으면 구글의 혁신 방향을 가늠해…

구글 클라우드에서 Java 애플리케이션의 성능을 높이는 방법

구글 클라우드의 Cloud Run 환경에서 Java 애플리케이션, 특히 Spring 프레임워크를 이용하는 서버리스 애플리케이션을 개발하는 분들에게 몇 가지 중요한 성능 최적화 팁을 소개합니다. 이러한 최적화 방법은 애플리케이션의 응답 시간을 단축하고 비용을 줄이는 동시에 사용자 경험을 개선하는데 도움이 됩니다.       ⚙️ Cloud Run과 Cold Start 최적화 Cloud Run은 사용하지 않을 때는 자원을 아끼기 위해 서비스를…

데이터 집약적 워크로드를 위한 클라우드 스토리지의 최적화 방안

오늘날 기업들은 다양한 워크로드를 클라우드 환경에서 실행하고 있습니다. 클라우드 환경의 비용 및 운영 최적화의 중요 포인트는 온프레미스와 크게 다르지 않습니다. 특히 지속해서 성능과 용량을 높여 가야 하는 스토리지 최적화의 중요성은 워크로드 실행 위치와 관계없이 똑같습니다. 스토리지 자원의 중요성은 AI/ML 워크로드, 클라우드 네이티브애플리케이션, 그리고 전통적인 엔터프라이즈 시스템 등 데이터 집약적인 워크로드의 비중이 높아지는 현재 더욱 커지고…