Apache Beam과 Dataflow로 추론을 위한 실시간 데이터 파이프라인 만들기

Apache Beam과 Dataflow로 추론을 위한 실시간 데이터 파이프라인 만들기    AI/ML 모델이 사용자에게 다양한 편의를 제공하기 위해서는 훈련을 마치고 모델을 배포하여 앱이나 장치 수준에서 추론을 수행하는 단계에 이르러야 합니다. 추론: 훈련된 AI 모델을 사용하여 새로운 데이터에 대한 예측이나 결정을 내리는 과정 추론 단계에서 모델을 배포한 앱이나 장치는 사용자의 입력에 대한 즉각적인 피드백을 제공하고 사용자 데이터를…

생성형 AI로 웹 사이트 만들기

생성형 AI가 웹 사이트도 만든다? 다재다능한 Gemini    현재 운영 중인 회사 사이트는 어떻게 만드셨나요? 사내 인력을 투입해 직접 만들거나, 외주로 개발을 하거나 웹사이트 제작 플랫폼을 활용하는 방법이 일반적입니다. 대다수의 회사들이 공식 사이트를 만들기 위해 초기에 시간과 비용을 투자하여 사이트를 구축한 다음 몇 년 간 쭉 사용하는 형태로 운영하였습니다.    요즘에는 조금 달라지는 분위기입니다. 브랜드…

Google Cloud로 Oracle Cloud 데이터베이스 배포하기

Oracle Cloud 데이터베이스를 Google Cloud로 배포할 수 있다!?   최근 Oracle Cloud 데이터베이스를 Google Cloud로 배포하기로 협의한 소식이 발표되었습니다. 공개된 내용에 따르면 양사 협력으로 이제 Oracle Cloud Infrastructure(OCI)에서 실행되는 Oracle Cloud 데이터베이스를 Google Cloud Platform(GCP)으로 마이그레이션하거나 GCP에서 새로 구축하는 작업이 간소화되었습니다.    이번 양사 협력이 갖는 의미는 하이브리드 멀티 클라우드 전략을 추구하는 기업의 요구를 위해…

클라우드로 실천하는 ESG 경영

최근 전 세계 주요 거점에서 생산 시설을 운영하는 기업들은 ESG 경영을 추진하기 위해 공급망을 최적화하고 친환경 공장 운영을 위해 첨단 분석과 AI 기술을 활용하는 것에 관심을 보이고 있습니다. 첨단 분석과 AI 기술을 활용하여 자원 사용을 효율화하고, 환경에 대한 부정적인 영향을 최소화하며 사회적 책임을 이행하는 동시에 규제 준수를 보장하고자 함인데요. *ESG 경영은 환경(Environmental), 사회적 책임(Social), 지배구조(Governance)의…

Cloud Run과 GKE를 활용한 LLM 파인튜닝

최근 조직이 거대 언어 모델(LLM)을 미세 조정(Fine Tuning)하는 것에 관심을 보이고 있습니다. 파인튜닝은 LLM을 미세하게 조정하는 과정으로, 학습한 데이터를 그대로 따라가게 되면 현실적인 답과는 거리가 멀거나 활용하기 어려운 답변이 나올 수도 있기 때문에 쓰임새에 맞게 조정하는 작업 또한 반드시 필요합니다. * LLM은 방대한 양의 텍스트 데이터를 학습하여 인간의 언어와 유사한 텍스트를 생성하고 이해할 수 있는…