Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 | 31 |
Tags
- 로그인
- Kafka
- hive
- Redis
- 간단
- 설정
- redash
- fastcampus
- 젠킨스
- Zeppelin
- config
- ec2
- SpringBoot
- Cluster
- 자동
- Docker
- Jenkins
- java
- 머신러닝
- 클러스터
- EMR
- 예제
- 자바
- aws
- gradle
- 레디스
- vue
- Mac
- spring
- login
Archives
- Today
- Total
목록데이터허브 (1)
코알못
[AWS] EC2를 이용한 KAFKA Connect 구축
저번 시간에는 kafka cluster 를 구축 하고 어떻게 동작하는지 알아보았다! 이제 connect 를 구축하여 데이터 허브를 구성한다! connect 는 원하는(예 : RDB, S3 등) 데이터를 알아서 가져오고(producer) 원하는 형태(예: RDB, S3 등)로 넣어주는(consumer) 솔루션 이다. 직접 producer, comsumer 을 만들어서 사용해도 되지만 관리/성능 측면에서 내가 만드는 것 보다 잘 만들어둔 솔루션(connect)을 사용하는것이 낫기에 사용하도록 한다! 테스트를 위해 자주 사용하는 명령어는 아래 정리하였으니 참고하도록 한다. // topic list ./kafka-topics.sh --list --bootstrap-server kafka-01:9092,kafka..
BIG DATA
2022. 1. 17. 23:40