Data Science Lab

[AWS] What is AWS Graviton processor?

l  Version : Amazon Web Service

이번 포스트는 AWS에서 출시하여 제공하고 있는 AWS Graviton 프로세서가 무엇인지 알아본다. Graviton 프로세서에 대한 성능 및 기존 X86 프로세서와의 벤치마크 등은 다른 자료를 참고할 수 있도록 한다.

AWS Graviton은 Amazon EC2(Elastic Compute Cloud) 가상 머신 인스턴스 고객을 위해 ARM 아키텍처를 기반으로 AWS에서 2018년 출시한 서버 프로세서이다.  AWS Graviton 1 프로세서는 맞춤형 실리콘과 64비트 Neoverse 코어를 특징으로 한다. 2020년 AWS Graviton2 프로세서를 출시했고. 2021년, re:Invent 컨퍼런스에서 Graviton3 프로세서를 발표했다.

l  ARM architecture family : https://en.wikipedia.org/wiki/ARM_architecture_family

Graviton2는 무엇일까?

AWS Graviton2 프로세서는 7nm 공정에서 제작된 맞춤형 프로세서로, Arm의 새로운 Neoverse N1 코어 기반으로 한다. Graviton2은 64개의 코어와 2.5GHz 클럭으로 동작하고, 이들은 2TB/s 메시 아키텍처로 연결된다. L3캐시는 32MB로 구성되어 있다. 이 시스템의 메모리 채널은 8채널 DDR4-3200 메모리 컨트롤러로 지원되며 PCIe4 64개를 지원한다.

Amazon Graviton2 : FIRST NEOVERSE N1 Chip

l  Neoverse N1 - Microarchitectures – ARM : https://en.wikichip.org/wiki/arm_holdings/microarchitectures/neoverse_n1

AWS가 Graviton 프로세스를 만든 이유는 무엇일까?

2020년 말에 AWS의 EC2 부사장인 David Brown은 흥미로운 관점을 밝혔다. 그는 크든 작든 엄청난 수의 Amazon EC2 고객이 EC2 용량을 간신히 사용하고 있다고 말했다. 그는 고객의 의견을 경청한 후 AWS는 여러 가지 이유로 서버용으로 X86-64 프로세서 제품군에서 전환했다.

AWS 요구사항 :

l  EC2 인스턴스 선택에 있어 고객에게 더 많은 선택권 제공

l  웹 서버와 같은 ARM 기반 애플리케이션 대상

l  가상화 비용을 줄이면서 고가용성 및 보안 제공

l  고객을 위한 저렴한 가격으로 적절한 서버 성능 조정

AWS는 위 요구사항 외에도 혁신을 위해 Intel과 AMD에 의존하기 보다 AWS가 작동하는 방식으로 작동하도록 구축된 사내 서버 프로세서 제품군을 필요했다.

AWS Graviton 프로세서는 좋은가?

일부 서클에서는 1세대 AWS Graviton 프로세서가 당시 AMD 및 Intel 프로세서에 비해 취급을 못 받을 것이라 했다. 그러나 시간이 지남에 따라 프로세서는 서버용 X86 기반 프로세서보다 약간 더 나은 것으로 판명되었다. 예를 들어 ARM 프로세서는 X86코어에 비해 전력 소비가 낮다. 이는 AWS가 추구해온 제안 중 하나이므로 궁극적으로 EC2의 요금까지 절감할 수 있게 되었다.

AWS Graviton Vs Graviton2 프로세서 차이점은 무엇일까?

출시 당시 AWS는 Graviton2는 X86 프로세서 보다 40%, AWS Graviton1 프로세서 보다 7배 더 나은 가격대비 성능을 제공한다고 발표했다. 또한 차세대 프로세서는 Graviton1 프로세서보다 4배 더 빠른 컴퓨팅 코어, 5배 더 빠른 메모리, 2 배 더 큰 캐시를 제공한다. 또한 AWS는 Graviton2를 통해 개발자가 안전하고 대규모로 실행할 수 있는 클라우드 네이티브 앱을 만들 수 있도록 몇 가지 주요 개선사항을 만들었다. 여기에는 항상 활성화 되어 있는 256비트 DRAM 암호화가 포함된다.

아래는 Graviton1 프로세서와 Graviton2 프로세서의 차이점에 대해서 살펴본다.

1.       스토리지

AWS Graviton1은 이미지, 비디오 및 분석 데이터와 같은 웹 서비스를 호스팅하는데 유용한 간단한 스토리지를 제공한다. 저장된 데이터에 원격으로 더 쉽게 액세스할 수 있게 해주는 객체 수준 데이터 스토리지 서비스를 제공한다. 이에 비해 Graviton2는 일반적으로 블록이라고 하는 여러 값으로 파일을 저장하는데 도움이 되는 블록 수준 저장소를 제공한다. 블록은 또한 인터넷 연결을 통해 원격으로 쉽게 액세스 할 수 없도록 하여 데이터를 보호한다.

2.       정보 접근성

AWS Graviton1은 데이터를 클러스터 되지 않은 형식으로 저장하므로 쉽게 데이터에 액세스 할 수 있다. HTTP 프로토콜을 사용하여 데이터를 검색할 수 있다. Graviton2는 오직 Attached연결에서만 액세스 할 수 있는 형식으로 데이터를 저장한다.

3.       가용성

AWS Graviton1은 API를 사용하여 인터넷을 통해 사용할 수 있다. Graviton2는 하드웨어 프로세서에 연결된 단일 인스턴스에서 사용할 수 있다.

4.       내구성

AWS Graviton1은 여러 가용 영역에 데이터를 저장하여 내구성을 제공하는 반면, Graviton2는 단일 가용 영역에서만 데이터를 저장한다.

5.       용도

Graviton2는 EC2인스턴스 외에도 Amazon ElastiCache, Amazon RDS 및 Amazon EKS(컨테이너 서비스)실행에도 사용할 수 있다.

언제 AWS Graviton 프로세서를 사용하면 좋을까?

웹 서버, 로그 처리, 비디오 인코딩, 전자 설계 자동화 및 CPU 인터페이스 기반의 기계 학습에 AWS Graviton1 및 Graviton2를 사용한다. 현재 X86기반 서버를 사용하는 경우 Arm 아키텍처에서 실행되도록 애플리케이션을 다시 설계해야 한다.

AWS Graviton을 사용하면 어떤 이점이 있을까?

AWS Graviton의 가장 중요한 이점은 비용 절감, 짧은 지연 시간, 향상된 확장성, 향상된 가용성 및 보안이다.

1.       비용 효율적

프로세서 제품군은 Arm 아키텍처 기반으로 한다. 즉 SoC(System On Chip)일 가능성이 높다. 이 뜻은 만족스러운 성능을 제공하는 동시에 전력 소비 비용을 낮출 수 있는 것으로 해석할 수 있다.

2.       생태계 지원

AWS Graviton1 및 Graviton2는 64비트 Arm Neoverse 코어 아키텍처를 기반으로 하기 때문에 여러 Linux 기반 운영체제가 이 구성을 지원한다. 여기에는 Amazon Linux 2, SUSE 및 Red Hat이 포함된다. 이는 고객에게 더 많은 선택권을 제공한다.

3.       효율적인 CPU 전력

AWS Graviton 프로세서는 전통적인 아키텍처보다 최대 3.45% 더 높은 성능을 제공한다. 또한 X86 프로세서보다 더 간단한 프로세서 구현을 제공한다.

4.       범용 구축

AWS Graviton 코어는 서버, 중간 규모 데이터 저장 프로세스, 마이크로 서비스 및 클러스터 컴퓨팅의 효울성을 개선하도록 구축되었다.

5.       버스트 가능한 워크로드 제공

확장 가능한 마이크로 서비스, 중소 규모 데이터베이스 서비스, 가상 데스크톱, 중요한 비즈니스에 적합한 애플리케이션 선택과 같은 광범위한 부분에서 버스트 가능한 워크로드 서비스 세트를 사용자에게 제공한다.

6.       컴퓨터 집약적 모델을 기반으로 구축

프로세서는 HD 비디오 성능 컴퓨팅, 비디오 인코딩, 게임 및 CPU 기반 컴퓨터 학습 프로세스와 같은 컴퓨터 집약적 모델을 기반으로 한다.

7.       향상된 네트워킹 제공

EFO(Elastic Fabric Operator)의 100Gbps 네트워킹 기능을 제공한다.

[참고자료]

l  https://www.cloudzero.com/blog/aws-graviton

l  https://techcrunch.com/2021/11/30/aws-launches-its-graviton-3-processor/

l  https://www.techrepublic.com/article/faq-what-arm-servers-on-aws-mean-for-your-cloud-and-data-center-strategy/

l  https://www.anandtech.com/show/15578/cloud-clash-amazon-graviton2-arm-against-intel-and-amd

l  https://en.wikichip.org/wiki/arm_holdings/microarchitectures/neoverse_n1

2022-03-26 / Sungwook Kang / http://sungwookkang.com

AWS Graviton, AWS 그라비톤, ARM CPU, AWS ARM