Developer Keynote : Fast. Simple. Cutting edge. Pick three
생성형 AI로 무한 가능성의 시대 앞에 선 개발자들
메가존소프트(MegazoneSoft)가 말하는(Talk)
Google Cloud Next ’24의 기술,
두 번째 편은 ‘개발자 기조연설(Developer Keynote Session)’입니다.
Google Cloud Next’24(이하 Next ’24)의 개발자 기조연설의 주제는
구글의 생성형 AI(Generative AI)인 ‘Gemini’였습니다.
Richard Seroter와 Chloe Condon은 개발자들이 Gemini를 통해
어떻게 더 스마트하게 코드를 작성하고, 애플리케이션을 구축하며,
플랫폼을 운영할 수 있는지 직접 보여주었습니다.
Gemini Code Assist
흔히 생성형 AI하면 코딩 지원 정도를 생각하는데요.
기조연설에서 데모를 보며 AI 애플리케이션 개발, 배포, 운영 전 과정에서 생성형 AI의 도움을 받을 수 있다는 것을 직접 확인했습니다.
먼저 개발 과정부터 살펴보겠습니다.
평소 이용하는 IDE에 Gemini Code Assist 플러그인을 적용하는 순간부터
생성형 AI는 단순한 기능이 아니라 항상 함께하는 동료가 됩니다.
개발자는 IDE 내에서 AI의 도움을 받아 코드를 더 효율적으로 작성하고 리뷰할 수 있습니다.
Gemini 1.5 Pro 모델은 개발자가 코드베이스를 이해하고 정보를 추출하고 문서를 처리하는 데 상당한 도움을 줍니다.
그 수준을 보자면 Gemini 1.5 Pro 모델은 100만 토큰의 컨텍스트 윈도우를 제공합니다.
컨텍스트 윈도우는 코드를 분석할 때 모델이 고려하는 코드 양을 의미합니다.
기존 Gemini 코드 어시스트보다 훨씬 더 큰 100만 토큰의 윈도우를 통해
Gemini 1.5 Pro는 더 넓은 코드 부분을 이해하고 분석할 수 있어 개발자에게 정확한 코드 완성, 코드 생성, 버그 찾기 등의 기능을 제공할 수 있습니다.
그리고 최대 11시간 분량의 오디오 파일에서 정보 추출할 수 있고,
최대 700,000 단어 문서를 처리할 수 있어 개발자가 정보를 수집해 맥락을 파악하는 시간도 줄일 수 있습니다.
AI 애플리케이션 개발을 할 때 모델 선택의 폭도 넓습니다.
구글 클라우드는 Hugging Face와의 파트너십을 통해 50만 개 이상의 모델을 개발자 커뮤니티에 제공하며,
이를 통해 개발자들은 구글 클라우드 내에서 모델을 쉽게 훈련시키고 배포할 수 있습니다.
이러한 접근성은 Generative AI의 잠재력을 극대화하는 데 큰 도움이 됩니다.
Gemini + Data
기조연설에서 강조한 것 중 하나는 바로 구글의 데이터 플랫폼이 AI 시대를 위한 준비를 마쳤다는 것이었습니다.
데모에서 실시간 소셜 미디어 트렌드 분석 파이프라인 구축하여 Gemini 기반 AI 애플리케이션을 구현하는 과정을 보여주었습니다.
BigQuery의 실시간 데이터 처리 기능으로 실시간으로 소셜 미디어 트렌드를 분석하여 트렌드를 파악하고
이를 Pub/Sub 이벤트 핸들러로 전송 하여 마케팅 분석, 트렌드 분석 앱에 반영하는 데모였는데 매우 간단히 구현하는 것이 놀라웠습니다.
다음으로 AlloyDB를 활용하는 데모에서 발표자는 구글 클라우드의 다양한 데이터 서비스가 벡터와 임베딩을 지원하는 추세라고 밝혔습니다.
발표자는 데모에서 AlloyDB를 선택한 이유로 벡터 지원과 함께 트랜잭션 작업 처리 속도가 일반적인 PostgreSQL보다 4배 빠르다는 것을 꼽았습니다.
이 데모에서 주목할 부문은 생성형 AI 애플리케이션에 RAG를 적용하는 것입니다.
데모 앱은 벡터 검색을 사용하여 제품을 빠르게 검색하는 기능을 지원하였습니다.
Vertex AI는 사용자의 검색어를 자연어 처리(NLP) 기술을 사용하여 분석하며 NLP 분석 결과를 벡터로 변환합니다.
이 벡터를 임베딩이라고 합니다. AlloyDB는 데이터베이스에 저장된 모든 임베딩을 검색하여 사용자의 임베딩과 유사한 임베딩을 찾습니다.
AlloyDB는유사성 점수가 높은 상위 3개의 제품을 검색 결과로 반환합니다.
이 데모를 통해 AlloyDB 환경에서 RAG(Retrieval Augmented Generation) 모델을 사용하는 방법을 알 수 있었습니다.
이외에도 AI Studio에서 멀티모달 입력을 활용한 장소 추천 시스템의 프로토타입 제작 이후 실제 서비스 개발을 위한 환경 구축 과정을 보여주는 데모도 있었습니다.
이후 프로덕션 배포를 위해 Cloud Workstation에서 Next.js와 같은 개발 프레임워크를 사용해 개발을 진행하였는데, 이 역시 매우 빠르고 편리하게 작업이 이루어졌습니다.
텍스트 중심 사용자 경험의 한계 극복:
생성형 UI
한편, 이번 기조연설에서 생소한 개념인 생성형 UI(Generative UI)에 대한 설명도 들을 수 있었습니다.
이 개념은 단순히 텍스트를 입력하고 답을 받는 사용자 경험을 한계를 넘어 서기 위해 UI를 적절히 활용하는 것입니다.
발표자는 Vercel AI SDK를 활용해 텍스트를 넘어 풍부하고 직관적인 사용자 경험을 제공하는 생성형 UI 개발을 데모를 보여주었습니다.
컴포넌트 기반의 인터페이스는 꽤 신선하게 다가왔습니다.
프로덕션 환경까지 따라오는 생성형 AI
다음으로 AI 앱을 만들어 프로덕션에 배포한 생성형 AI의 역할은 클라우드 플랫폼/SRE 엔지니어로 바뀝니다.
프로덕션 환경에 애플리케이션을 배포한 다음 할 일은 모니터링을 하면서
성능이나 속도 저하, 장애 같은 문제가 발생하지 않게 운영하는 것입니다.
구글 클라우드 환경에서는 이 역시 생성형 AI에 맡기면 됩니다.
발표자는 Gemini Cloud Assist를 활용해 문제의 원인을 찾아 해결하는 과정을 보여주었습니다.
Gemini Cloud Assist를 사용하는 과정은 사용자가 Google Cloud Console을 통해 문제의 근본 원인을 찾고 해결하는 방식과 ‘자연어’ 질문으로 진행됩니다.
발표자는 Cloud Console에 접속하여 애플리케이션에 대한 최근 경보(alerts)를 확인하고,
특정 인시던트에 대한 요약 페이지를 검토하고, 로그를 검토하여 문제의 성격을 파악하였습니다.
Gemini Cloud Assist는 경보에 담긴 정보를 정보를 기반으로 사용자가 문제를 진단할 수 있도록 도와주고,
인시던트 페이지 내용을 요약하고, JSON 형식의 로그 데이터를 쉽게 이해할 수 있게 설명하는 역할을 합니다.
문제 원인을 찾은 후 발표자는 문제 해결 방안을 질문했고 Gemini Cloud Assist는 문제가 된 방화벽 규칙을 제거하는 쉘 명령어를 제안합니다.
원인 파악부터 해결책 마련까지 너무 일이 술술 풀리는 느낌이었습니다.
무한 가능성의 시대 앞에 선 개발자들
개발자 기조연설 무대는 생성형 AI가 소프트웨어 개발에 혁신을 가져올 수 있는 무한한 가능성을 보여준 자리였습니다.
생성형 AI의 도움으로 개발자들은 코드를 더 빠르게 작성하고 복잡한 문제를 해결하며 효율적으로 애플리케이션을 운영할 수 있습니다.
이러한 변화를 통해 더욱 혁신적인 솔루션이 등장하고 새로운 기술의 탄생으로 이어지는 기회가 될 것으로 보입니다.
앞으로 Google Cloud Next ’24
시리즈도 많은 기대와 관심 부탁드립니다!
✔️Google Cloud Next’24 하이라이트_기조연설 보러가기
