일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | ||||
4 | 5 | 6 | 7 | 8 | 9 | 10 |
11 | 12 | 13 | 14 | 15 | 16 | 17 |
18 | 19 | 20 | 21 | 22 | 23 | 24 |
25 | 26 | 27 | 28 | 29 | 30 | 31 |
- 빅데이터
- 레드햇
- 리눅스
- 자바
- data
- 알고리즘
- recursive
- big data
- storage
- docker
- hadoop
- 아마존
- 자료구조
- Spring
- redhat
- rhcsa
- Data Structure
- 하둡
- algorithm
- 설치
- 스프링
- sort
- 재귀
- java
- linux
- AWS
- Redshift
- 스토리지
- Amazon
- 도커
- Today
- Total
목록스토리지 (3)
Developer MJ
스토리지 데이터 웨어하우스 - OLAP 성 작업 - 기존 데이터베이스 상위에서 실행가능하며, 일반적으로 데이터가 중복된 테이블을 사용 - 여러 소스의 데이터를 통합하고 일관성 있는 데이터로 관리 - 현재 데이터는 물론 이력 데이터도 관리Redshfit - 페타바이트 규모의 열 기반 데이터 웨어하우스 - SQL 작업을 병렬화 하여 대규모 분산 병렬처리 가능 리더 노드 - SQL 엔드포인트 - 메타데이터 저장 - 컴퓨팅 노드들에게 분산 쿼리 실행 명령 컴퓨팅 노드 - 로컬에 열 형식으로 데이터를 분산 저장 => 컴퓨팅 노드 간 데이터 교환 효율성을 위해 - 병렬 쿼리 실행 결과를 리더 노드에 반환 - S3, EMR, DynamoDB, SSH를 통한 데이터 로드 데이터 레이크 - 중앙 집중식 저장소에서 방대한..
스토리지 및 아카이빙 EBS - EC2 네트워크 스토리지 SSD for IOPS / HDD for 처리량 EC2와 같은 AZ에 생성해야한다. 스냅샷은 S3에 저장되며, 증분 스냅샷 기능 존재 스냅샷 복원 시 first-access 패널티가 존재 복원함과 동시에 모든 데이터를 1회 read하여 S3에서 EBS로 copy해 속도 저하를 막는다. ( ex> linux dd command ) 인스턴스 스토어 - 고속 IO의 휘발성 스토리지로 인스턴스 장애 및 중지 시 제거될 수 있다. EFS - 리눅스 인스턴스 용 공유 스토리지 S3 - 파일시스템이 아닌 웹 기반 오브젝트 스토리지로 데이터 저장 및 검색을 위한 스토리 S3에 대한 이벤트는 SNS , SQS , Lambda 서비스의 트리거 역할을 할 수 있다. ..
Amazon S3 Designed to make web-scale computing easier for developers. Enables you to store and retrieve any amount of data, any time , from anywhere on the web Is highly scalable, reliable, fast, secure and durable storage Why Choose S3? Enables you to transfer and store files as object Enables hosting of static web sites Offers a range of storage classes with configurable lifecycle policies Sup..