'Cluster'에 해당되는 글 3건
- 2019.03.13 :: Kafka - Kafka(카프카) cluster(클러스터) 구성 및 간단한 CLI사용법
- 2019.03.01 :: Springboot,Redis - Springboot Redis Nodes Cluster !(레디스 클러스터)
- 2018.07.07 :: Elasticsearch 로컬(1개의 클러스터)에서 n개 이상 노드띄우기 1
Kafka - Kafka(카프카) cluster(클러스터) 구성 및 간단한 CLI사용법
▶︎▶︎▶︎카프카란?
이전 포스팅에서는 메시징 시스템은 무엇이고, 카프카는 무엇이며 그리고 카프카의 특징과 다른 메시지 서버와의 차이점에 대한
포스티이었습니다. 이번 포스팅은 간단하게 카프카3대를 클러스터링 구성을 하여 서버를 띄우고 CLI를 이용하여 간단히
카프카를 사용해보려고 합니다. 카프카는 중앙에서 많은 서비스 시스템의 데이터를 받아서 다른 시스템으로 받아주는 역할을 하는
메시지 시스템으로 MSA에서는 없어선 안되는 존재가 되었습니다. 그렇다면 이렇게 중요한 카프카를 한대만 띄워서 프로덕트 환경에서
운영한다는 것은 과연 안전한 생각일까요? 아닙니다. 여러대를 클러스터링 구성하여 고가용성을 높혀야 운영환경에서도 안전하고 신뢰성있는
메시지 시스템 구성이 될것입니다.
위의 그림은 카프카를 여러대 클러스터링을 했을 경우의 구성도 입니다. 일단 중요한 것은 Zookeeper라는 존재입니다. 주키퍼는
이전 포스팅에서 Zookeeper란 무엇인가? 그리고 Solr 클러스터링 구성을 했을 때 다뤘던 내용이므로 이번 포스팅에서는 생략합니다.
▶︎▶︎▶︎Zookeeper란?
▶︎▶︎▶︎Solr Cluster 구성
간단하게 이야기하면 주키퍼란 분산환경 애플리케이션을 중앙에서 관리해주는 디렉토리 구조의 분산 코디네이터라고 보시면 됩니다. 지금부터는
실습에 초점을 마추겠습니다.
우선은 주키퍼를 설치해줍니다. 이번 실습의 버전은 3.4.12 버전기준입니다.
설정파일을 만지기 전에 주키퍼를 위한 디렉토리 구성을 진행하겠습니다. 저는 카프카 실습을 위해 별도의 하나의 디렉토리를 구성하였고,
그안에 주키퍼와 카프카에 대한 파일들을 모두 넣어놓았습니다. 우선 다음 예제는 주키퍼와 카프카를 별도의 디렉토리에 설치했다는 가정하에 진행합니다.
주키퍼는 링크를 참조하셔서 총 3대로 띄워주시면 됩니다.(Master-slave 관계의 클러스터)
카프카도 동일한 디렉토리에 설치해줍니다. 편의상 카프카의 디렉토리 루트를 $KAFKA로 지칭합니다.
우선 진행하기 앞서 클러스터 구성에서 인스턴스 각각이 자신의 메타 데이터와 카프카가 데이터를 쓸 디렉토리를 만들어줍니다.
kdata1,kdata2,kdata3 디렉토리를 만들어줍니다. 그리고 $KAFKA/config 밑에 있는 server.properties를 2장 복사해줍니다.
그리고 해당 파일 안에 설정들을 클러스터 구성에 가장 기본이 되는 설정으로 바꿔줍니다.
broker.id = 1,broker.id = 2,broker.id = 3 으로 총 3개의 serverN.properties에 작성해줍니다. 이것은
주키퍼 myid와 비슷한 역할을 하는 클러스터 인스턴스 구분용 ID값입니다.
그리고 지금 실습은 로컬에 3대의 카프카서버를 띄워서 클러스터링 구성을 할것임으로 각각 서버의 포트를 달리 지정해줍니다.
listeners=PLAINTEXT://:9092,listeners=PLAINTEXT://:9093,listeners=PLAINTEXT://:9094 으로 각각 파일에 포트를 구분해줍니다.
log.dirs=$KAFAKA/kdata1,log.dirs=$KAFAKA/kdata2,log.dirs=$KAFAKA/kdata3 으로 각각 카프카 서버가 자신의
메타 데이터를 쓸 디렉토리를 구분지어줍니다. 필자는 처음에 하나의 디렉토리만 생성해서 공유했더니 충돌 문제가 있어
각각 별도의 디렉토리 구성을 가져갔습니다.
마지막으로 주키퍼와의 연동 설정입니다.
zookeeper.connect=localhost:2181,localhost:2182,localhost:2183/kafka-broker 으로 각 설정 파일에 동일하게 작성해줍니다.
여기에서 조금 특이한것이 ~/kafka-broker 입니다. 이것은 무엇이냐면 만약 각각 다른 용도의 카프카 클러스터를 2세트 운영한다고 가정하고,
주키퍼는 같은 주키퍼 클러스터를 이용한다고 합니다. 만약 ~/kafka-broker를 입력하지 않으면 카프카 클러스터 2세트가 주키퍼의 루트 디렉토리에 동일한
구조의 데이터를 쓰게 되고 그러면 카프카 클러스터 2세트가 데이터 충돌이 나게됩니다. 그렇기 때문에 ~/kafka-broker라고 입력하여 주키퍼의 루트디렉토리가
아닌 /kafka-broker/.. 라는 디렉토리를 하나 새로 생성하여 아예 카프카 클러스터 1대의 전용 디렉토리를 구성해주는 겁니다. 여기까지 진짜 기본적인
설정으로 클러스터 설정을 마쳤습니다. 사실은 이정도 설정으로는 운영환경에서는 운영하기 힘들것입니다. 나머지 설정관련해서는 카프카 공식 홈페이지에
영어로 친절하게? 작성되어 있으니 참고 부탁드립니다.
이제 $KAFKA/bin/kafka-server-start.sh -daemon ../config/server.properties 명령으로 3개의 카프카를 실행시켜줍니다. 물론 선행조건은
주키퍼가 실행되었다는 조건입니다. 만약 지금까지 잘 따라오셨다면 문제없이 실행됩니다. 마지막으로 간단한 CLI를 이용한 producer,consumer 예제입니다.
위의 명령으로 큐의 역할로 사용될 토픽을 생성해줍니다. 만약 토픽을 잘못 생성하신 분들을 위해서 토픽을 삭제하는 명령입니다.
Noting 메시지와 함께 토픽이 삭제되었습니다.
프로듀서를 실행시켜줍니다. 설정 인자들은 설명없어도 직관적으로 보입니다.
메시지를 보냅니다.
또 한번 보냅니다.
컨슈머 쪽을 확인해보면 메시지가 잘와있는 것을 확인할 수 있습니다. 여기까지 카프카 클러스터 구성과 간단한 CLI를 이용하여 카프카를 사용해보았습니다.
'Middleware > Kafka&RabbitMQ' 카테고리의 다른 글
| Kafka - Kafka Streams API(카프카 스트림즈) - 1 (2) | 2019.03.26 |
|---|---|
| Kafka - Kafka Consumer(카프카 컨슈머) Java&CLI (2) | 2019.03.24 |
| Kafka - Kafka Producer(카프카 프로듀서) In Java&CLI (0) | 2019.03.16 |
| Kafka - Kafka(카프카)의 동작 방식과 원리 (0) | 2019.03.12 |
| Springboot - Rabbitmq를 이용한 비동기 메시징 서비스(리액티브 마이크로서비스) (2) | 2019.02.18 |
Springboot,Redis - Springboot Redis Nodes Cluster !(레디스 클러스터)
이전 포스팅에서는 Redis Server들의 고가용성을 위해 Redis Sentinel을 구성하여 Master-Slave 관계의 구성을 해보았습니다.
▶︎▶︎▶︎Redis Sentinel 구성
Sentinel을 구성하여 Redis Server들의 고가용성을 키워주는 방법 이외에도 사실 Redis는 Cluster라는 좋은 기능을 지원해줍니다.
그럼 Sentinel은 무엇이고 Redis Cluster는 다른 것인가? 대답은 엄연히 다른 기능입니다.
간단히 비교하면 Sentinel는 Master-Slave관계를
구성합니다.(Redis Server 끼리 구성을 갖춤). 하지만 Redis Server 이외에 Sentinel 인스턴스를 띄워주어야합니다. 그런 Sentinel 인스턴스들은
Redis Server들을 모니터링하고 고가용성을 위한 적당한 처리를 해줍니다. 그리고 Redis Server끼리의 데이터 동기화도 마춰줍니다. 이말은,
모든 Redis Server는 모두 같은 데이터들을 가지고 있는 것이죠.
하지만 Cluster를 이용하면 각 Redis Server들은 자신만의 HashSlot을 할당 받게 됩니다. 그리고 Cluster도 Master-Slave 관계를
구성하게 됩니다. 이말은 무엇이냐? 대략 16000개의 데이터 바구니를 나누어가지는 Redis Server들은 Master가 됩니다. Sentinel과는
다르게 하나의 마스터만 갖는 것이 아닙니다. 그리고 각 마스터에 대한 Slave 서버를 가지게 되는 것입니다. 더 자세한 사항은 아래 링크를 참조해주세요.
▶︎▶︎▶︎Cluster&Sentinel 그리고 Redis
이제는 Redis Cluster 구성을 해보겠습니다. 오늘 구성해볼 아키텍쳐입니다.
혹시나 Redis를 설치와 간단한 사용법에 대해 모르신다면 아래링크를 참조해주세요.
▶︎▶︎▶︎Redis 설치와 사용법
3개의 Master와 3개의 Slave 입니다.(편의상 Redis 폴더의 루트 == $REDIS)
$REDIS 위치에 cluster라는 폴더를 하나 구성해줍니다.
그리고 해당 $REDIS/redis.conf를 cluster 폴더에 6개를 복사해줍니다.(redis-cluster1~6.conf)
이제 각 redis-cluster 설정파일을 수정할 것입니다. 이번에 할 설정은 간단한 설정입니다. 프러덕환경에서는
더 세부적인 설정이 필요할 수 있습니다.
이번예제는 동일한 서버에 6개의 port를 나누어 진행합니다. 만약 서로 다른 서버에 구성을 하시기 위해서는
적절히 인스턴스들을 나누어주시고 각 서버에 대해 포트 개방이 필요합니다.
redis-cluster1.conf - port:6379
설정은 직관적으로 어떠한 설정에 대한 것인지 알수 있습니다. 해당 인스턴스의 포트는 6379를 사용하고
클러스터를 사용하겠다. 그리고 해당 인스턴스가 클러스터에 대한 정보를 남기기위해 nodes.conf를 사용한다.
또한 타임아웃은 5초로 하고 모든 데이터는 영속하기 위해 항상 write마다 기록한다 라는 설정입니다.(데이터 유실방지)
나머지 인스턴스들의 설정도 port와 cluster-config-file의 설정만 구분하고 동일하게 작성합니다.
ex) port 6380, cluster-config-file nodes2.conf
설정 파일작성이 끝나셨으면 6개의 터미널을 띄워줍니다.
>cd src
>./redis-server ../cluster/redis-clusterN.conf
총 6개의 레디스 인스턴스를 실행시킵니다.
그리고 하나 추가적으로 작업을 해주어야할 것이 있습니다. 실행되고 있는 인스턴스에 대해
명시적으로 클러스터 구성을 생성해주는 작업입니다. 이 과정은 버젼에 따라 총 2가지의 방법이 있습니다.
1 2 3 | redis-cli --cluster create 127.0.0.1:6379 127.0.0.1:6380 \ 127.0.0.1:6381 127.0.0.1:6382 127.0.0.1:6383 127.0.0.1:6384 \ --cluster-replicas 1 | cs |
$REDIS/src 의 redis-cli를 이용한 방법입니다. 클러스터 구성에 참여하는 인스턴스 정보를 모두 입력하고 마지막에 replicas 속성을
명시해줍니다. 마지막 속성은 마스터에 대한 슬레이브를 몇개를 둘것인가 라는 설정입니다.
1 2 | ./redis-trib.rb create --replicas 1 127.0.0.1:6379 127.0.0.1:6380 \ 127.0.0.1:6381 127.0.0.1:6382 127.0.0.1:6383 127.0.0.1:6384 | cs |
동일한 속성에 대한 redis-trib.rb를 이용한 클러스터 구성방법입니다.
저는 첫번째 방법을 이용하였습니다. 명령어를 탁 치는 순간 3개는 마스터 3개는 슬레이브 노드를 임의로
선택해 이렇게 클러스터를 구성하겠습니까? 라는 질문에 yes||no로 답변해주어야합니다. yes를 입력합니다.
이제는 클러스터 구성이 잘 되었는지 확인해볼까요?
잘 구성이 되었습니다 ! 여기서 한가지 집고 넘어가야 할 것이 있습니다. Redis Cluster 사용을 위해서는 그에 맞는 클라이언트가 필요합니다. 저는
그 클라이언트를 Springboot를 이용하여 구성해보았습니다. springboot의 Spring Redis 프로젝트를 생성해줍니다!
1 2 3 4 | #Redis Cluster Config(마스터노드의 리스트) spring.redis.cluster.nodes=127.0.0.1:6379,127.0.0.1:6380,127.0.0.1:6381 클러스터 노드간의 리다이렉션 숫자를 제한. spring.redis.cluster.max-redirects= | cs |
application.propeties 파일입니다. 클러스터에 참여하는 노드들을 나열해줍니다.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 | /** * Redis Cluster Config * @author yun-yeoseong * */ @Component @ConfigurationProperties(prefix = "spring.redis.cluster") public class RedisClusterConfigurationProperties { /** * spring.redis.cluster.nodes[0]=127.0.0.1:6379 * spring.redis.cluster.nodes[1]=127.0.0.1:6380 * spring.redis.cluster.nodes[2]=127.0.0.1:6381 */ List<String> nodes; public List<String> getNodes() { return nodes; } public void setNodes(List<String> nodes) { this.nodes = nodes; } } | cs |
properties에 나열한 노드들의 정보를 얻기위한 빈을 하나 띄워줍니다. 물론 @Value로 직접 주입시켜주어도 상관없습니다. 해당 방법은 Spring Redis Document에 나온데로 진행하고 있는 중입니다.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 | /** * Redis Configuration * @author yun-yeoseong * */ @Configuration public class RedisConfig { /** * Redis Cluster 구성 설정 */ @Autowired private RedisClusterConfigurationProperties clusterProperties; /** * JedisPool관련 설정 * @return */ @Bean public JedisPoolConfig jedisPoolConfig() { return new JedisPoolConfig(); } /** * Redis Cluster 구성 설정 */ @Bean public RedisConnectionFactory jedisConnectionFactory(JedisPoolConfig jedisPoolConfig) { return new JedisConnectionFactory(new RedisClusterConfiguration(clusterProperties.getNodes()),jedisPoolConfig); } /** * RedisTemplate관련 설정 * * -Thread-safety Bean * @param jedisConnectionConfig - RedisTemplate에 설정할 JedisConnectionConfig * @return */ @Bean(name="redisTemplate") public RedisTemplate redisTemplateConfig(JedisConnectionFactory jedisConnectionConfig) { RedisTemplate redisTemplate = new RedisTemplate<>(); redisTemplate.setKeySerializer(new StringRedisSerializer()); redisTemplate.setValueSerializer(new StringRedisSerializer()); redisTemplate.setConnectionFactory(jedisConnectionConfig); return redisTemplate; } /** * 문자열 중심 편의 RedisTemplate * * @param jedisConnectionConfig * @return */ @Bean(name="stringRedisTemplate") public StringRedisTemplate stringRedisTemplate(JedisConnectionFactory jedisConnectionConfig) { StringRedisTemplate stringRedisTemplate = new StringRedisTemplate(jedisConnectionConfig); return stringRedisTemplate; } } | cs |
Redis Config를 위한 자바클래스입니다. 이제 정말로 잘되는지 확인해볼까요?
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 | @RunWith(SpringRunner.class) @SpringBootTest public class RedisTest { @Autowired private RedisTemplate redisTemplate; @Test public void testDataHandling() { redisTemplate.getConnectionFactory().getConnection().info().toString(); String key = "yeoseong"; String value = "yoon"; redisTemplate.opsForValue().set(key, value); String returnValue = (String) redisTemplate.opsForValue().get(key); System.out.println(value); } } | cs |
결과값으로 "yoon"이라는 값을 얻어옵니다. 그러면 진짜로 클러스터된 노드들에서 얻어왔는지 확인해봐야겠습니다.
6379 포트의 인스턴스로 해당 값을 얻어오려고 하니 실제로는 6381에 해당 데이터가 있어 리다이렉트 됬다라는 로그와 함께
결과 데이터를 얻어왔습니다. 여기까지 Redis Cluster 구성이었습니다. 부족한 부분이 많아 틀린 부분이 있다면 댓글 부탁드립니다!!
'Middleware > Redis' 카테고리의 다른 글
| Springboot,redis - Redis repository 간단한사용법! (1) | 2019.03.01 |
|---|---|
| Redis - Cluster & Sentinel 차이점 및 Redis에 대해 (0) | 2019.02.28 |
| Redis - Sentinel 이란? 설정방법! Redis 고가용성을 위한 방법 (2) | 2019.02.27 |
| Redis - Redis 설치 및 설정, 간단한 사용방법 (1) | 2019.02.27 |
Elasticsearch local 환경에서 하나의 클러스터에 n개 이상의 노드(인스턴스)생성
데이터 경로는 다른 클러스터의 여러 노드에 의해 공유 될수 있다. 이는 개발 시스템에서 장애 조치 및 다른 구성을 테스트하는데는 유용하다. 하지만 운영환경에서는 하나의 서버당 하나의 노드만 실행하는 것이 좋다. 즉, 하나의 서버에 하나의 노드만 실행시키기 위해서는 node.max_local_storage_nodes:1 로 설정하고, 만약 하나의 머신에서 여러 개의 노드를 실행시키기 위해서는 설정을 1 이상으로 조정해야된다. 만약 한 머신에서 두개 이상의 노드를 운영한다면 샤드들은 elasticsearch에서 자동으로 분배해준다.
elasticsearch.yml의 적당한 위치에 node.max_local_storage_nodes를 생성할 노드수 만큼 설정을 해준다. 그래서 한 데이터를 여러노드가 공유할 수 있게 설정을 해주면 된다. 그리고 여러개의 터미널을 켜서 node 인스턴스들을 생성하면 생성된 샤드가 자동으로 각 노드에 분배가 된다.
culr "localhost:9200/_cat/shards?v" 명령어를 실행시켜서 shard들의 분배상태를 확인할수 있다.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 | index shard prirep state docs store ip node get-together 1 r STARTED 1 7.9kb 127.0.0.1 _qpD4qV get-together 1 p STARTED 1 7.9kb 127.0.0.1 f6xhNIi get-together 3 r STARTED 1 7.9kb 127.0.0.1 _qpD4qV get-together 3 p STARTED 1 7.9kb 127.0.0.1 f6xhNIi get-together 4 r STARTED 1 7.5kb 127.0.0.1 _qpD4qV get-together 4 p STARTED 1 7.5kb 127.0.0.1 f6xhNIi get-together 2 r STARTED 2 8.9kb 127.0.0.1 _qpD4qV get-together 2 p STARTED 2 8.9kb 127.0.0.1 f6xhNIi get-together 0 r STARTED 0 261b 127.0.0.1 _qpD4qV get-together 0 p STARTED 0 261b 127.0.0.1 f6xhNIi myindex 1 r STARTED 0 261b 127.0.0.1 _qpD4qV myindex 1 p STARTED 0 261b 127.0.0.1 f6xhNIi myindex 3 r STARTED 0 261b 127.0.0.1 _qpD4qV myindex 3 p STARTED 0 261b 127.0.0.1 f6xhNIi myindex 4 r STARTED 0 261b 127.0.0.1 _qpD4qV myindex 4 p STARTED 0 261b 127.0.0.1 f6xhNIi myindex 2 r STARTED 0 261b 127.0.0.1 _qpD4qV myindex 2 p STARTED 0 261b 127.0.0.1 f6xhNIi myindex 0 r STARTED 0 261b 127.0.0.1 _qpD4qV myindex 0 p STARTED 0 261b 127.0.0.1 f6xhNIi new-index 1 r STARTED 0 261b 127.0.0.1 _qpD4qV new-index 1 p STARTED 0 261b 127.0.0.1 f6xhNIi new-index 3 r STARTED 0 261b 127.0.0.1 _qpD4qV new-index 3 p STARTED 0 261b 127.0.0.1 f6xhNIi new-index 4 r STARTED 0 261b 127.0.0.1 _qpD4qV new-index 4 p STARTED 0 261b 127.0.0.1 f6xhNIi new-index 2 r STARTED 0 261b 127.0.0.1 _qpD4qV new-index 2 p STARTED 0 261b 127.0.0.1 f6xhNIi new-index 0 r STARTED 0 261b 127.0.0.1 _qpD4qV new-index 0 p STARTED 0 261b 127.0.0.1 f6xhNIi | cs |
'Search-Engine > Elasticsearch&Solr' 카테고리의 다른 글
| Elasticsearch - 3.부가적인 검색 API (0) | 2019.05.08 |
|---|---|
| Elasticsearch - 2.검색 API(Elasticsearch Query DSL) (0) | 2019.05.07 |
| ELK - Filebeat 란? (실시간 로그 수집) (0) | 2019.03.20 |
| Solr7.4 Tagger Handler (NER,Named-Entity Recognition) (0) | 2018.09.22 |
| Solr&Zookeeper(솔라&주키퍼) cloud 환경 구성 (1) | 2018.09.13 |