Google Cloud NEXT ‘24 참관기 #1

지난 4월 9일부터 11일까지 3일간 라스베이거스 만달레이 베이 호텔에서 Google Cloud NEXT(이하 구글 클라우드 넥스트) 2024 행사가 열렸다. 🔗구글 클라우드 넥스트는 구글의 클라우드 컴퓨팅 신제품, 서비스 업데이트, 고객 성공 사례를 공유하는 연례행사다. 토마스 쿠리안(Thomas Kurian) 구글 클라우드 CEO는 2022년 Recap:Seoul에서 “구글 클라우드 넥스트는 향후 10년의 구글 클라우드의 비즈니스 방향성을 알 수 있는 자리”라고 언급한 바 있다. 이번 행사는 작년 행사와 달리 샌프란시스코가 아닌 라스베이거스에서 열렸으며, 지난 규모의 2배 이상으로 북적였다는 후문이다.

🔗 만달레이 베이 미켈롭 울트라 아레나에서 열린 오프닝 키노트는 여느 오프닝 키노트처럼 성황리에 개최됐다. 현장에서 라이브로 보는 것을 기대했지만, 오프닝 키노트 자리는 일찌감치 만석이었다. 그래서 아쉽지만 쇼케이스가 진행되는 전시장 모퉁이에서 100인치쯤 되어 보이는 스크린을 통해 서서 관람했다.

오프닝 키노트는 구글 클라우드 CEO인 토마스 쿠리안이 여러 관계자들과 함께 진행했다. 주요 내용은 🔗제미나이(Gemini) 1.5 관련 내용으로, 다음과 같이 6가지로 요약할 수 있다.

1. AI 워크로드(Wordlord)에 특화 인프라 지원

구글은 AI 워크로드를 지원하기 위해 TPU v5p와 엔비디아 H100 GPU로 구동되는 A3 메가 VM 등을 공개했다. 이로써 🔗GKE(Google Kubernetes Engine, 구글 쿠버네티스 엔진)을 사용하는 고객은 TPU v5p 파드(Pod)가 포함된 쿠버네티스 노드 풀(Node Pool)을 만들 수 있게 됐다. 또한, 사용자는 동적 워크로드 스케줄러를 이용해 리소스 관리 및 작업 스케줄링을 할 수 있다.

2. 생성형 AI를 활용한 페어 프로그래밍 강화

구글은 ‘제미나이(Gemini) 코드 어시스트’를 활용한 AI 기반 채팅 서비스를 통해 코드를 생성, 완료할 수 있다. 개발자는 전체 코드 베이스를 이해하고, 맞춤 코드를 생성하며, 🔗데이터독(Datadog), 🔗데이터스택스(DataStax), 🔗엘라스틱(Elastic) 등의 파트너사 도구를 통합하는 ‘제미나이 코드 어시스트’의 활용이 가능하다.

3. 앱 및 클라우드 운영에 특화된 AI

‘제미나이 클라우드 어시스트’는 클라우드 서비스 관리를 위한 AI 도구로 개발자에게 필요한 작업을 제안한다. 다양한 클라우드 제품 및 워크로드에서 사용할 수 있는 ‘제미나이 클라우드 어시스트’를 통해 사용자는 비용 절감, 성능 향상 등을 누릴 수 있다.

4. 노코드(Nocode) AI 에이전트 빌더

🔗’버텍스 AI(Vertex AI) 에이전트 빌더’로 제미나이 LLM 기반 가상 에이전트를 생성할 수 있다. 또한 즉시 사용 가능한 RAG 시스템과 내장된 RAG API를 통해 빠르게 에이전트를 구축하고, 이를 이용해 챗봇 구축도 가능하다.

개발에 필요한 LLM 및 ML Ops 기능이 업데이트됐고,  🔗코드젬마(CodeGemma)와 같은 경량 모델도 지원된다.

5. 데이터베이스 관리자를 위한 AI

🔗빅테이블(Bigtable), 🔗스패너(Spanner), 🔗레디스용 메모리스토어(Memorystore for Redis) 등의 데이터베이스 제품을 ‘ 🔗데이터베이스 센터(Database Center)‘를 통해 한곳에서 관리할 수 있으며, 이러한 관리는 제미나이를 통해서도 가능하다. 데이터베이스 마이그레이션 서비스에서도 제미나이를 통해 데이터베이스 코드를 변환하고 분석할 수 있다.

6. 생성형 AI를 위한 오픈소스 발표

구글은 생성형 AI 모델을 위해 🔗맥스디퓨전(maxdiffusion), 🔗젯스트림(JetStream), 🔗옵티멈-TPU(optimum-tpu) 등 3개의 오픈소스 프로젝트를 공개했다.

🔗맥스텍스트(maxtext) 프로젝트는 LLM 모델로 구축됐으며, 제미나이 1.5 프로 모델을 활용한다.

🔗버텍스 AI(Vertex AI)는 LLM 모델을 지원하는 것 외에도 🔗이마젠 2(Imagen2), 🔗코드젬마(CodeGemma) 등의 기능이 업데이트됐다.

구글 클라우드의 AI는 Gemini로 통폐합 © 구글 클라우드 사이트🔗

기자는 키노트를 뒤로하고 세션들을 보기 위해 분주히 돌아다녔다. 세션은 Next ‘24 앱을 통해 제목과 소개 글을 보고 예약할 수 있다. 하지만 관심 있는 세션들은 일찌감치 마감된 상태였다. 그래서 기자는 현장에서 세션 시작을 기다렸다가 남은 자리를 노려 세션에 참석할 수 있었다.

ㅣ4월 9일

Cross-cloud analytics innovations: How BigQuery Omni and Looker mean no more data silos

 BigQuery Omni와 Looker를 사용해 다양한 위치(예를 들어 AWS, Azure, GCP)에 있는 데이터 소스를 하나로 통합하는 최신 크로스 클라우드 분석 혁신이 소개됐다. 또한, 사용자가 AWS에서 로컬 머티리얼라이즈드 뷰(local materialized views)를 생성해 데이터 세트를 관리할 수 있게 해주는 기능과 데이터 파이프라인을 자동화하고 비용을 효율적으로 만드는 방법에 대해 설명했다. Hive 애널리틱스를 서비스하고 있는 조직에 몸 담은 담당자로서 더욱 관심이 가는 세션이었다.

🔗 세션 라이브러리
: https://cloud.withgoogle.com/next/session-library?session=ANA106#all

Take large scale AI from research to production with Google Cloud’s AI Hypercomputer

 구글이 오랜 기간 AI를 대규모로 상용화했던 경험을 바탕으로, 연구에서부터 상용 배포에 이르기까지의 과정을 지원하는 다양한 기술과 인프라를 제공한다고 밝혔다. 이를 위한 ‘AI 하이퍼컴퓨터 아키텍처’라는 세 가지 주요 구성 요소를 소개했다. 첫째로 최적화된 성능을 제공하는 인프라, 둘째로 다양한 AI 워크플로에 적합한 소비 모델, 마지막으로 관리형 AI 서비스를 포함한 포괄적인 AI 플랫폼이 중요하다고 설명했다. 해당 세션에는 카카오 브레인의 KARA-CXR 사례와 NURO의 Nero Driver의 사례가 제시됐다.

A guide for enterprises: How to implement generative AI applications

생성형 인공지능(Generative AI) 애플리케이션을 구현하는 방법을 주제로 세션이 진행됐다. 다양한 기업의 일반적인 생성형 인공지능 적용 분야, 실제 적용으로의 전환 과정, 그리고 이와 관련된 공통적인 도전 과제들을 공유했다. 특히 챗봇, 가상 에이전트, 콘텐츠 생성, 코드 생성, 데이터 증강 등에 대해 기업이 생성 인공지능을 어떻게 성공적으로 통합할 수 있는지에 대한 경험과 조언을 공유했다. 또한, 데이터 소유권, 라이선싱 문제, 기존 시스템과의 통합, 입력 검증 및 데이터 보안과 같은 주요 이슈들을 언급하면서 기술적 전문성과 조직 내 기술 역량이 중요함을 강조했다.

🔗 세션 라이브러리
: https://cloud.withgoogle.com/next/session-library?session=AIML145-PARENT#all

Delivering win after win: How Bandai Namco launches games on Google Cloud

일본 내의 비디오 게임 위주로 비즈니스를 했던 반다이 남코가 온라인 게임과 디지털 콘텐츠를 앞세워 글로벌 시장으로 진출한 바 있다. 반다이 남코는 당시 직면했던 여러 도전 과제들을 Google Cloud의 Spanner, GKE, Agones, Analytics를 사용함으로써 극복하고 성장할 수 있었다고 한다.

🔗 세션 라이브러리
: https://cloud.withgoogle.com/next/session-library?session=ARC216#all