Generative AI Studio 둘러보기
Generative AI를 더 효과적으로 쓰는 데 있어 도구는 필수입니다. 기업은 접근성 좋고 누구나 쉽게 시작할 수 있는 쉬운 도구를 원합니다. 로우코드/노코드(Low Code/No Code) 도구를 이용해 Generative AI 기술을 활용하는 것을 바라는 것이죠. 🙂
도구 측면에서 구글 클라우드는 Generative AI App Builder와 함께 Generative AI Studio를 제공합니다. 이번 포스팅에서는 Generative AI Studio에 대해 알아볼까 합니다.🙂
😃 사용자와 전문가 모두를 위한 도구
Generative AI Studio는 현업 실무 담당자와 데이터 과학자 모두를 위한 도구라 할 수 있습니다. 보통 로우코드/노코드는 엔드유저용 도구라 생각하지만 Generative AI Studio는 일반 사용자와 전문가 모두를 위한 툴입니다.
📌먼저 현업 사용자에게 Generative AI Studio는 어떤 쓰임이 있나 알아보겠습니다.
현업 사용자는 업무를 가장 잘 아는 사람입니다. 따라서 IT 팀이나 데이터 과학자 도움 없이 스스로 Generative AI 기반 챗봇의 도움을 받아 업무 생산성을 높이는 것이 최선이라 할 수 있습니다. 요구 사항을 정리해 구현을 요청하고 확인하는 번거로움 없이 업무를 가장 잘 아는 사람이 Generative AI 기반 챗봇으로 의사결정에 필요한 답을 척척 내줄 수 있도록 프롬프트를 설계하고 필요 시 팀이 활용할 수 있는 템플릿을 만드는 것이 좋다는 소리죠.
Generative AI Studio는 일반 사용자도 쉽게 프롬프트 디자인을 할 수 있는 도구입니다. 응답 품질을 높이기 위해 모델 튜닝을 어떻게 해야 하는지 몰라도 됩니다. 프롬프트 디자인은 현업 사용자가 가장 잘 할 수 있습니다. 문구나 어순의 작은 변화만으로도 모델의 출력에 영향을 줄 수 있다 보니 도메인 지식이 바탕이 되어야 합니다. 물론 조직에서 쓰는 용도와 목표에 맞게 프롬프트 엔지니어링을 하려면 미세 조정이 필요합니다. 이는 전문가에게 맡기면 됩니다. 전문가 역시 Generative AI Studio를 이용해 손쉽게 매개변수를 조정하며 튜닝을 할 수 있습니다.
프롬프트 디자인은 여러 번 반복하면서 실험을 하는 과정이라 할 수 있습니다. 현업 사용자는 구글 클라우드의 Vertex AI로 들어가 Generative AI Studio를 선택해 프롬프트 디자인에 참여할 수 있습니다.
📌프롬프트 갤러리에서 구글이 제공하는 초 거대 모델을 선택한 다음에 할 일은?
모델이 질문을 던지는 것입니다. 원하는 수준의 결과가 나올 때 까지 단문 형태의 질문부터 예제를 포함한 질문까지 실험을 거듭합니다.
질문을 거듭하는 것을 모두가 반복할 필요는 없겠죠. Generative AI Studio는 컨텍스트 지정을 통해 프롬프트를 템플릿으로 만들 수 있는 기능을 제공합니다. 특정 도메인에 대한 배경 지식을 지정해 모델이 특정 도메인의 용어나 표현을 정확히 파악해 답을 출력할 수 있도록 배경 지식을 제공하는 것이 템플릿 작업이라 이해하면 됩니다. 질문을 하나하나 하건 템플릿을 지정 하건 사용자는 바로바로 모델을 테스트하여 출력 결과를 확인하면 원하는 수준이 될 때까지 조정할 수 있습니다.
📌일반 사용자가 할 수 있는 작업은 여기까지 일까요? 매개변수 조정도 가능합니다. 아래 화면의 좌측 메뉴를 통해 사용자는 직관적으로 모델과 파라미터 설정을 바꾸어 가면서 테스트를 할 수 있습니다.
📌이제 전문가 시각에서 Generative AI Studio를 알아보겠습니다.
데이터 과학자는 Generative AI Studio를 이용해 구글이 제공하는 사전 훈련된 초거대 모델의 매개변수를 미세조정할 수 있습니다. 매개변수 미세 조정(Parameter-Efficient Fine-Tuning)은 특정 작업에서 높은 성능을 유지하면서 학습 가능한 매개변수의 수를 최소화하는 것을 목표로 하는 초거대 언어 모델(LLM)을 미세 조정하는 접근 방식입니다. 이 방법은 전체 모델을 학습을 통해 조정하는 것이 아니므로 리소스가 제한된 환경이나 품질 저하 없이 모델의 크기와 학습 시간을 최적화하려는 경우에 유용합니다.
데이터 과학자는 Vertex AI 페이지에 접속해서 Generative AI Studio의 Language 메뉴에 있는 튜닝 기능을 이용해 미세조정 작업을 할 수 있습니다. 데이터 과학자는 조직의 데이터 세트를 이용해 미세조정을 할 수 있습니다.
👉튜닝을 마친 모델은 Vertex AI 레지스트리를 통해 엔드포인트에 배포할 수 있습니다. 모델 미세조정 후 배포하는 상세 데모는 다음 영상을 참조 바랍니다.
Build, tune, and deploy foundation models with Generative AI Support in Vertex AI
😃멀티모달 기반 Generative AI 최적화까지 지원
한편, Generative AI Studio를 이용하면 언어와 비전 AI 기술을 적용해 멀티모달 기반 프롬프트를 설계하고 미세조정하는 것도 간편하게 할 수 있습니다. 이렇게 최적화한 모델을 현재 운영 중인 웹 사이트나 모바일 앱에 적용하고 싶다면? 지난 번에 소개한 Generative AI App Builder를 이용하면 됩니다.
이상으로 다음과 같이 총 3회에 걸쳐 Generative AI 기술을 어떻게 활용할 것인가? 이를 구글 클라우드에서 어떻게 실행으로 옮길 것인가를 알아보았습니다. 더 자세한 내용이 궁금하다면 메가존소프트가 언제든 도움을 드리겠습니다.
이상으로 『 Generative AI Studio 둘러보기』 에 대해 알아보았습니다. 😎🤗🤗
더 자세한 내용은 메가존소프트로 문의 바랍니다. 👉 메가존소프트 문의 바로가기
