‘AWS re:Invent 2023’ 참관기 #1

작년 11/27 ~ 12/1 미국 라스베이거스에서 진행된 ‘AWS re:Invent 2023’ 행사에 다녀왔습니다. 총 사흘간 즐겁게 참석했던 세션을 소개해보겠습니다.

맑은 날씨의 안양천과 시애틀 상공

‘Amazon re:Invent’가 뭐냐면요

Amazon re:Invent는 AWS(Amazon Web Services)가 2012년부터 매년 개최한 전 세계 최대 규모의 클라우드 컨퍼런스입니다. 매년 11월 말부터 일주일 동안 미국 라스베이거스에서 개최됩니다. 클라우드 기술의 미래를 조망하며 새로운 기술을 배우는 자리로, 세계 각국의 엔지니어들과 기술 전문가들 약 6만명 가량의 인원이 참석합니다. 개인적으로 AWS의 새로운 클라우드 제품을 확인하고, 관련 업체 엔지니어와 함께 미래 IT 기술 동향을 배울 수 있는 뜻깊은 자리였습니다.

입장 준비

각 AWS 행사장 출입을 위해서는 ID카드(네임택)와 배지가 필요합니다. 이를 수령하기 위해 아침 일찍 베네시안 호텔을 방문했습니다. 수령한 ID카드는 행사장 출입과 아침 식사, 셔틀 교통편을 이용할 때 수시로 체크하기 때문에 일주일 동안은 항상 목에 걸고 다니는 것이 좋습니다.

ID카드 수령 후에는 기념품을 얻기 위해 줄을 섭니다. 올해는 기모 후드티와 물통을 나누어 주었습니다. 쌀쌀한 아침저녁을 따뜻하게 보낼 수 있게 도와주는 좋은 기념품이 아닐까 싶네요. 라스베이거스는 식수가 부족한 사막이니까 물통은 필수죠.

키노트

저녁 8시부터는 AWS의 수석 부사장 Peter Desantis가 ‘먼데이 나이트 라이브’ 후 키노트를 시작했습니다. 키노트의 내용을 간략히 추리면 다음과 같습니다.

꿀팁

AWS re:Invent 세션을 예약할 때 한 가지 중요한 팁을 드리자면, 회화가 유창하지 않은 경우 세션의 유형을 선정해 듣는 것이 좋습니다.

그리고 각 세션을 듣는 장소와 시간, 동선을 파악하는 것도 중요한데 참고하실 만한 내용을 적어봤습니다.

1. 각 세션의 참석 가능 여부를 확인하고 AWS Events 앱 또는 행사 웹페이지에서 예약을 합니다.
2. 각 세션은 라스베이거스 메인 스트리트에 위치한 각 호텔 대형 행사장에서 진행됩니다. 쉽게 말해 ‘강남역’과 ‘삼성역’ 사이 대로변에 위치한 호텔 행사장 강의에 참석하신다고 이해하시면 됩니다.
3. 수강 신청은 대학교 수강 신청 방식과 유사합니다.
4. 발표자가 강의하는 형식의 BREAKOUT Sessions은 메인 행사장 1곳에서 실제 강의를 진행합니다. 그리고 다른 장소에 위치한 행사장 2~3곳에서 해당 강의를 실시간 스트리밍 해줍니다. 그러므로 세션을 듣기 편한 곳을 선택해 참석하시면 됩니다. 가까운 지역의 호텔 세션을 듣는 것이 좋고, 이동 시에는 걷거나 버스, Tram을 타고 이동해야 합니다.

매일 아침식사가 끝날 즈음에 AWS CEO를 비롯해 VIP가 매일 키노트를 발표합니다. 사실 이 키노트는 1000개가 넘는 수많은 세션의 요약본이라고 할 수 있습니다. 둘째 날 키노트는 AWS CEO Adam Selipsky가 마이크를 잡았고, “Here we go – It’s AI time”이라고 시작을 알렸습니다. 이제는 ML/AI가 대세가 된 게 실감 나는 키노트였습니다.

AWS CEO ‘Adam Selipsky’는 다른 VIP의 키노트와 달리 아침 8:00부터 시작됐습니다. 지금부터 그 내용을 요약해 전달드리겠습니다.

1. 생성형 Gen AI 스택 3가지 요약
   • ML/AI 훈련 및 추론을 위한 인프라
     • GPUs (NVIDIA)
     • Trainium(ML 훈련용 칩)
     • Inferentia (ML 추론용 칩)
     • Neuron (S/W SDK 개발킷)
     • SageMaker (완전 관리형 ML 서비스)
     • EC2 UltraClusters (대규모 ML 훈련)
       
       
   • 대규모 언어 모델(LLM) 및 기본 모델(Foundation Model)을 구축하기 위한 도구
     • Amazon Bedrock
       • Guardrails
       • Agents
       • Customization Capabilities
         
         
   • 기본 모델(FM)을 활용하는 애플리케이션
     • Amazon Q
     • Amazon CodeWhisper
       
       
2. Amazon S3 Express Zone One으로 클라우드 스토리지 강화
   • 지연 시간이 짧은 고성능 개체 스토리지를 제공
   • S3 Standard보다 한 자릿수 ms의 지연 시간과 최대 10배 빠른 데이터 액세스 속도, 최대 50% 낮은 비용을 자랑
     
     
3. Amazon Q :  Gen AI 기반의 도우미
   • 애플리케이션 개발자가 애플리케이션 코드 업그레이드와 관련된 어려운 작업을 간소화할 수 있게 해주는 AI 지원 제품
     • Amazon Q Code Transformation 을 이용하여 Java 버전 8 또는 11 애플리케이션 코드를 Java 버전 17로 업그레이드 가능
   • Amazon QuickSight (BI 시각화 대시보드)에도 Amazon Q가 추가되어 BI 도우미를 제공
     • Amazon Q에게 데이터 제공, 검색, 분석을 요청하면 사용자 입력에 대한 자연어 처리 덕분에 빠르고 편리하게 필요한 결과를 얻을 수 있음
   • Amazon Connect (클라우드 고객센터)에서 Amazon Q를 활용해 연락 센터와 고객 간의 경험을 향상시킴
     
     
4. 단순화된 데이터 카탈로그화를 위한 Amazon DataZone AI 권장
   • Amazon DataZone : 생성형 Gen AI에서는 데이터가 차별화 요소이므로 데이터 검색, 공유할 수 있게 해주는 데이터 관리 서비스에서 자동으로 생성된 메타데이터를 제안
   • 비즈니스 카탈로그 자산의 테이블 이름과 열 이름 생성을 자동화하는 생성적 Gen AI 기능을 제공.
     
     
5. New zero-ETL 통합
   • AWS redshift 데이터 웨어하우스와 여러 데이터 저장소의 데이터 통합을 손쉽게 가능
   • 아래 4가지 저장소
     • Amazon Aurora PostgreSQL와 Amazon Redshift의 제로 ETL 통합
     • Amazon RDS for MySQL와 Amazon Redshift의 제로 ETL 통합
     • Amazon DynamoDB와 Amazon Redshift의 제로 ETL 통합
     • Amazon DynamoDB가 Amazon OpenSearch Service의 제로 ETL 통합
       
       
6. AWS Graviton4 및 Trainium2
   • AI / ML을 지원하는 고성능 CPU 프로세서
   • AWS Graviton4
     • 광범위한 클라우드 워크로드에 대해 현재까지 가장 강력하고 에너지 효율적인 AWS 프로세서
   • AWS Trainium2
     • 더 적은 에너지를 사용하면서 더 빠르고 더 저렴한 비용으로 파운데이션 모델(FM)을 교육하기 위해 최고 성능의 컴퓨팅을 지원
       
       
7. Amazon Bedrock
   • 다양한 AI회사에서 제공하는 고성능 기본 모델(FM)을 단일 API로 제공하는 관리형 서비스
   • 제공하는 파운데이션 모델 (회사명 – 모델명)
     • AWS – Titan (언어 모델)
     • AI21 labs – Jurassic-2 (언어 모델)
     • Anthropic – Claude (언어 모델)
     • Cohere – Command (언어 모델)
     • Meta – Llama 2 (언어 모델)
     • Stability AI – Stable Diffusion  (텍스트-이미지 모델)
       
       
8. Amazon Bedrock을 위한 Guardrails
   • LLM(대형 언어 모델)에 가드레일을 적용해 AI 애플리케이션을 보호할 수 있음. 조직의 정책과 모범 사례를 따르는 책임감 있고 윤리적인 AI 사용을 보장
   • 거부된 주제 및 콘텐츠 필터를 기준으로 사용자 쿼리와 FM 응답을 평가해 콘텐츠를 제한할 수 있음
     
     
9. Amazon Bedrock용 Agents
   • 반복적인 사용자 요청 작업의 프롬프트 엔지니어링 및 오케스트레이션을 자동화
   • 에이전트는 자동으로 프롬프트를 작성하고 회사별 정보로 안전하게 보강해 사용자에게 자연어로 답을 제시
   • 상담원은 생성 AI를 사용하여 고객 질문에 답변하거나 판매 주문을 받는 등의 다단계 작업을 실행
     
     
10. 향상된 Amazon Bedrock 사용자 정의 기능
    • Fine-Tuning
      • 미세 조정된 모델을 생성하면 다양한 작업에 대해 레이블이 지정된 자체 비즈니스 교육 데이터를 제공할 수 있음. 그 덕분에 모델의 정확성 향상 가능
    • 검색 증강 생성 (RAG – Retrieval Augmented Generation with Knowledge Bases)
      • GPT와 같은 대규모 언어 모델 (LLM)의 성능을 향상시키기 위해, 특정 도메인의 유용한 데이터를 이용해 원하는 모델을 더 정확하게 만드는 메커니즘
    • Continued Pre-training for Amazon Titan Text Lite&Express
      • 모델을 생성할 때 레이블이 지정되지 않은 자체 데이터를 사용해 현재 기본 기반 모델에 존재하지 않는 콘텐츠와 지식으로 모델을 훈련시킬 수 있음
        
        
11. Salesforce, Nvidia 및 Anthropic 파트너십 확장
    • Salesforce는 이제 Salesforce에서 AI 기반 앱과 워크플로를 강화하기 위해 Amazon Bedrock을 지원할 예정
    • Nvidia 창립자 겸 CEO인 Jensen Huang은 무대에 올라 AWS와 Nvidia가 어떻게 협력하여 클라우드 AI 슈퍼컴퓨터를 구축하고 최대 언어 모델의 훈련 시간을 단축하는지 설명
    • Anthropic의 CEO이자 공동 창립자인 Dario Amodei는 Amazon과의 확장된 파트너십, Claude 2.1이 기업을 대상으로 하는 방법, 모델을 평가하고 측정해야 하는 필요성 설명
      
      
12. Project Kuiper 설명
    • Amazon의 위성 광대역 네트워크인 카이퍼 프로젝트를 2024년말 제공 예정

이 외에도 여러 세션을 들었는데요. 매일 저녁마다 준비된 AWS의 다양한 네트워킹 행사가 있어서 바쁘게 돌아다녔습니다. IT업계의 다양한 분들을 만나고 이야기 나눌 수 있는 유익한 시간이었습니다.

에필로그

AWS 행사 기간 동안 ‘시저스 팰리스’ 호텔에 묵었는데요. 처음 방문해 보는 고급 호텔로, 시설이 매우 만족스러웠습니다.

그리고 베네시안 행사장 옆 초대형 식당으로 들어가면 매일 아침 아침 7시부터 8시 30분 사이 조식을 제공 받을 수 있습니다. 매일 푸짐한 과일과 빵, 베이컨, 커피, 음료수가 잔뜩!😆

방문 첫날 오후에는 호텔 가까이에 자리한 MSG스피어에 방문했습니다. 스피어는 2023년 9월 29일에 개장한 공연장인데요. 2만 명을 수용할 수 있는 9층 높이의 세계에서 가장 큰 구체 모양 건축물이라고 합니다. 크기보다 더 놀라운 것은 이 건물 자체가 안팎으로 디스플레이라는 점입니다. 밖에서 보는 영상도 놀랍지만 안에서 보는 영상은 정말 엄청납니다. 라스베이거스에 갈 기회가 되시면 꼭 한번 보시기를 추천!

👉🏻 참관기 2부에 계속 됩니다.