전체 글

· Linux/K8s
Minikube와 같은 단일 노드 환경은 쿠버네티스를 쉽고 빠르게 체험할 수 있는 좋은 도구지만 컨트롤 플레인과 워커 노드가 어떻게 상호작용하며 클러스터를 이루는지 그 기본 구조를 이해하기 위해, 가상머신(VM) 3대를 이용하여 쿠버네티스 환경을 구축해본다. 항목버전OSRocky Linux 8.10Kubernetesv1.32.3Containerd1.6.32Ansible2.16.3 진행 과정에서 ansible을 사용했다. ansible의 간단한 설정 방법은 https://hd-engineering.tistory.com/13 Ansible 간단 설정1. SSH 키 배포 (초기 설정)SSH 키 생성 (제어 노드에서)ssh-keygen# → 엔터 3번 (기본 경로 및 패스프레이즈 없이 생성)대상 노드에 공개 키..
· Linux
rsync(Remote Sync)는 원격 또는 로컬 컴퓨터 간에 파일과 디렉터리를 효율적으로 동기화하는 데 사용한다1. 기본 사용법 및 핵심 옵션rsync [옵션] [소스 경로] [목적지 경로]가장 보편적으로 사용하는 아카이브 모드 예시# source_directory/의 내용을 destination_directory/로 동기화한다.rsync -avz source_directory/ destination_directory/-a (archive): 아카이브 모드. 권한(-p), 소유권(-o, -g), 심볼릭 링크(-l), 타임스탬프(-t) 등 파일의 주요 속성을 대부분 그대로 보존한다. 내부적으로 -rlptgoD 옵션을 합친 것과 동일하게 동작한다.-v (verbose): 동기화 진행 상황을 터미널에 상세..
· Data/Kafka
1. 문제 상황Kafka 클러스터 운영 중, 특정 토픽의 파티션이 Under-Replicated Partitions(URP) 발생. URP는 파티션의 복제본 수가 설정된 replication factor보다 적어진 상태.URP 상황 자체는 Kafka를 아예 쓸 수 없는 상태를 의미하진 않는다. follower 파티션에 복제만 못하고 있을 뿐 leader 파티션은 여전히 데이터가 들어오고 있고 프로듀서나 컨슈머를 통해서 메시지를 계속 주고받을 것이다. 하지만 URP가 발생했다는 건 원래 복제되어야 할 데이터가 복제를 실패 했다는 것이고 이것은 클러스터의 고가용성 측면에서 문제가 있다는 것을 의미한다.2. 해결 과정1) URP 상태 확인가장 먼저 클러스터에 URP 상태인 파티션이 있는지 확인. kafka-t..
1. 문제 상황AWS Managed OpenSearch 클러스터를 운영하던 중, Fluent Bit을 통해 수집되던 로그가 어느 순간부터 인덱싱되지 않는 현상이 발생. 매일 날짜 기반으로 daily-logs-YYYY-MM-DD 형태의 인덱스가 생성되어야 하지만, 특정 시점부터 새로운 인덱스가 더 이상 생성되지 않는 상황.환경 정보:클러스터: AWS Managed OpenSearch노드 수: 4개 (Data Nodes) 2. 트러블슈팅 과정1) Fluent Bit 상세 로그 활성화문제의 원인을 정확히 파악하기 위해, 가장 먼저 데이터 수집기인 Fluent Bit에서 OpenSearch로 전송 시 발생하는 로그를 상세히 확인해야 한다. 이를 위해 Fluent Bit의 [OUTPUT] 설정에 Trace_Err..
hundredragon
다음엔 무엇을 할까