생성형 AI, 플릿 매니지먼트에 활용하기

작년까지만 해도 새롭게 느껴지던 생성형 AI에 대한 분위기가 요즘에는 조직의 시스템이나 서비스에 실제로 적용하는 쪽으로 바뀌었습니다. 이런 흐름으로 빠르게 전환한 것의 배경에는 ‘도구의 진화’가 자리하고 있습니다. 2024년 7월 현재 생성형 AI를 기존 애플리케이션이나 서비스에 적용하는 것은 의지의 문제입니다. 작업을 도울 도구는 이미 준비가 되어 있습니다. 이번 포스팅에 도구가 어느 정도 수준까지 발전했는지 가늠해 볼 수…

Apache Beam과 Dataflow로 추론을 위한 실시간 데이터 파이프라인 만들기

Apache Beam과 Dataflow로 추론을 위한 실시간 데이터 파이프라인 만들기    AI/ML 모델이 사용자에게 다양한 편의를 제공하기 위해서는 훈련을 마치고 모델을 배포하여 앱이나 장치 수준에서 추론을 수행하는 단계에 이르러야 합니다. 추론: 훈련된 AI 모델을 사용하여 새로운 데이터에 대한 예측이나 결정을 내리는 과정 추론 단계에서 모델을 배포한 앱이나 장치는 사용자의 입력에 대한 즉각적인 피드백을 제공하고 사용자 데이터를…

생성형 AI로 웹 사이트 만들기

생성형 AI가 웹 사이트도 만든다? 다재다능한 Gemini    현재 운영 중인 회사 사이트는 어떻게 만드셨나요? 사내 인력을 투입해 직접 만들거나, 외주로 개발을 하거나 웹사이트 제작 플랫폼을 활용하는 방법이 일반적입니다. 대다수의 회사들이 공식 사이트를 만들기 위해 초기에 시간과 비용을 투자하여 사이트를 구축한 다음 몇 년 간 쭉 사용하는 형태로 운영하였습니다.    요즘에는 조금 달라지는 분위기입니다. 브랜드…

클라우드로 실천하는 ESG 경영

최근 전 세계 주요 거점에서 생산 시설을 운영하는 기업들은 ESG 경영을 추진하기 위해 공급망을 최적화하고 친환경 공장 운영을 위해 첨단 분석과 AI 기술을 활용하는 것에 관심을 보이고 있습니다. 첨단 분석과 AI 기술을 활용하여 자원 사용을 효율화하고, 환경에 대한 부정적인 영향을 최소화하며 사회적 책임을 이행하는 동시에 규제 준수를 보장하고자 함인데요. *ESG 경영은 환경(Environmental), 사회적 책임(Social), 지배구조(Governance)의…

Cloud Run과 GKE를 활용한 LLM 파인튜닝

최근 조직이 거대 언어 모델(LLM)을 미세 조정(Fine Tuning)하는 것에 관심을 보이고 있습니다. 파인튜닝은 LLM을 미세하게 조정하는 과정으로, 학습한 데이터를 그대로 따라가게 되면 현실적인 답과는 거리가 멀거나 활용하기 어려운 답변이 나올 수도 있기 때문에 쓰임새에 맞게 조정하는 작업 또한 반드시 필요합니다. * LLM은 방대한 양의 텍스트 데이터를 학습하여 인간의 언어와 유사한 텍스트를 생성하고 이해할 수 있는…