eBPF 기반 Linux 루트킷 탐지기: 다중 채널 교차 뷰 분석(sched_switch, NMI, /proc)을 사용하여 DKOM, 트레이스포인트 변조 및 프로세스 은닉을 탐지하고, 하드웨어 수준 무결성 검증을 제공합니다.
시스템 프로세스 무결성 및 교차 뷰 분석
"내가 노래할 테니, 밝게 빛나줘, SPiCa..."
SPiCa는 Rust로 작성된 eBPF 기반 Linux 루트킷 탐지기입니다. 이름은 하츠네 미쿠의 곡 SPiCa와 그 곡이 가리키는 별 — 처녀자리에서 가장 밝은 별인 스피카(처녀자리 알파) — 에서 유래했습니다. 육안으로는 하나의 별처럼 보이지만 실제로는 분광 쌍성으로, 두 별이 서로를 공전하며 스펙트럼을 측정하지 않고는 개별 천체로 구분할 수 없습니다. SPiCa는 동일한 원리를 커널 관측에 적용합니다. 여러 독립적인 채널이 물리적으로 서로 다른 메커니즘을 통해 동일한 커널 상태를 측정하며, 하나의 채널을 억제하는 루트킷은 다른 채널들에 의해 드러납니다.
면책 조항: 이 코드베이스의 상당 부분은 GLM의 도움을 받아 생성되거나 리팩터링되었습니다. 엄격한 테스트와 반복적인 설계를 적용했지만, 프로덕션 환경에서 사용하기 전에 보안 및 성능 측면에서 코드를 검토하십시오.
bpf()SPiCa는 eBPF로 제약된 적대자 — 상승된 권한(CAP_BPF 또는 CAP_SYS_ADMIN)을 가진 공격자가 커널에 특권 eBPF 프로그램을 로드하는 경우 — 를 격파하도록 설계되었습니다. 이 적대자는 BPF 검증기가 강력한 제약을 부과하기 때문에 LKM 루트킷보다 근본적으로 약합니다:
| 제약 | 적대자에 대한 영향 |
|---|---|
| 유한 루프(프로그램당 약 1M 명령어) | 모든 커널 메모리를 스캔할 수 없음 |
| 포인터 안전성(직접 역참조는 증명 가능하게 유효하고 경계가 정해진 대상이 필요) | 임의의 포인터를 따라갈 수 없음 |
| 제한된 헬퍼(프로그램 유형별 허용 목록) | kmalloc, vmalloc 또는 어떤 커널 할당 함수도 호출할 수 없음 |
임의 커널 쓰기 불가(bpf_probe_write_kernel은 엄격히 제한됨) | task_struct, tracepoint 함수 배열 또는 BPF 프로그램 바이트코드를 수정할 수 없음 |
| 로드된 참조로 범위가 제한된 맵 접근 | 다른 프로그램에 속한 맵에 접근할 수 없음(ID 열거는 기본 거부 bpf() 게이트로 차단됨 — §7 참조) |
부팅 후 LSM 게이트에 의해 LKM이 차단되면, 이 제약된 적대자가 현실적으로 남은 위협입니다. SPiCa의 회피 방지 메커니즘은 이 위협에 맞춰 조정되었으며, 모든 방어는 무엇을 커버하고 무엇을 커버하지 않는지에 대해 정직합니다.
init_module 없이 임의 커널 쓰기를 가능하게 하는 메모리 손상. SPiCa는 더 쉬운 LKM 벡터를 차단하여 하한선을 높이지만 적대자의 상한선을 정하지는 않습니다.SPiCa는 심층 방어 스택에서 최후의 수단 계층이며, 상위 계층을 대체하는 것이 아닙니다.
SPiCa는 커널 훅에 연결된 7개의 eBPF 프로그램과, 그 출력을 시스템 자체의 시각(/proc)과 교차 상관시키는 사용자 공간 탐지 엔진으로 구성됩니다.
| 채널 | 메커니즘 | 억제하는 것 | 억제 비용 |
|---|---|---|---|
/proc | procfs 디렉터리 열거 | DKOM (태스크 목록에서 프로세스 연결 해제) | 낮음 — 널리 알려진 루트킷 기법 |
원장 기록기 (sched_switch, fork, exit) | per-CPU 해시 체인에 추가하는 eBPF 트레이스포인트 | 프로그램 분리; 컨텍스트 필터링 | 중간 — funcs 배열에 대한 커널 쓰기 필요, 그리고 체인이 정지됨 → TAMPER |
| NMI 공증기 | 하드웨어 perf 카운터 인터럽트 → eBPF perf 이벤트 | IDT/NMI 핸들러 후킹 | 거의 확실한 커널 패닉 — 하드웨어 인터럽트로, 마스킹 불가 |
핵심 아키텍처 속성: 루트킷은 억제 행위 자체가 탐지 가능해지거나 시스템을 불안정하게 만들지 않고서는 원장과 공증기를 동시에 억제할 수 없습니다. NMI를 억제하려면 IDT(인터럽트 디스크립터 테이블)를 패치해야 하며, 이는 대부분의 커널에서 패닉을 일으킵니다. 원장 기록기를 억제하면 체인 진행이 멈추는데, 하드웨어 인터럽트 컨텍스트에서 체인 위치를 스냅샷하는 NMI 공증기는 여전히 실행 중이므로 이를 감지합니다. 이것이 "살아있는 폭탄"입니다 — 공격자가 완전한 장님 상태에 도달하는 유일한 경로는 시스템을 거의 확실히 다운시키는 경로입니다.
매 틱마다 정확히 세 개의 스냅샷을 찍고, 원장에 고정된 단일 차분을 기준으로 모든 TGID를 분류합니다 — 별도의 검사 경로도, 두 번째 루프도 없습니다:
| 시각 | 정의 | 위조하는 것 |
|---|---|---|
| L | 원장 목격 — 체인으로 검증된 커널 스케줄러 진실 (동결됨, NMI 공증됨) | 커널 수준 억제만 가능 → TAMPER/SILENT |
| R | 원시 getdents64를 통한 /proc | DKOM (커널이 태스크 연결 해제) |
| C | libc readdir을 통한 /proc — 모든 도구(ps/ls/top)가 보는 시각 | LD_PRELOAD 후킹 또는 DKOM |
L R C → verdict
1 0 0 → DKOM — scheduler runs it, kernel won't list it (both /proc paths blind)
x 1 0 → HOOK — kernel lists it, libc hides it (LD_PRELOAD interception)
0 1 x → GHOST — /proc lists what the scheduler has never run (fake/idle entry)
0 0 1 → INJECT — libc reports a process the kernel doesn't have (fabricated entry)
정직한 111 패턴에서 벗어나는 모든 것은 탐지이며, 패턴 자체가 계층을 국소화합니다 — 커널, libc, 또는 엔트리 위조. 채널 수준 무결성은 테이블 위에 위치합니다: 체인 갭/분기/노터리 불일치 → TAMPER; 전역 침묵 → SILENT.
각 탐지 클래스는 차등 판정입니다: 둘 이상의 채널 간의 불일치. 탐지 엔진은 레지스트리 + /proc 스냅샷 + 채널 타임스탬프에 대한 순수 함수입니다 — I/O 없음, 부작용 없음, 완전히 단위 테스트 가능.
원래 아키텍처는 상태를 숨기려 했습니다 (.bss의 XOR 키, "검증자 경계 주소 비밀성"). 그 가정은 틀렸습니다: .bss 전역 변수는 일반적인 BPF_MAP_TYPE_ARRAY 맵으로 뒷받침되며, CAP_SYS_ADMIN 권한을 가진 모든 프로세스가 BPF_MAP_GET_NEXT_ID → BPF_MAP_GET_FD_BY_ID → BPF_MAP_LOOKUP_ELEM으로 열거할 수 있습니다 — 키를 읽을 수 있었고, 더 나쁘게는 BPF_MAP_UPDATE_ELEM이 커널을 건드리지 않고 사용자 공간에서 하트비트 자체를 위조하여 NMI 무결성 검사를 무력화할 수 있었습니다.
재설계는 게임을 뒤집습니다: 원장은 공개되며, 보안 속성은 구조적으로 append-only이고 변조 증거성입니다. 레코드는 커널 내에서 해시 체인으로 연결되고, 체인 상태는 bpf_map_freeze로 봉인되며 (시스템 콜 쓰기 → 맵 수명 동안 EPERM; 프로그램 쓰기는 영향 없음), NMI 프로그램은 하드웨어 인터럽트 컨텍스트에서 체인을 노터리화합니다. 아무것도 비밀일 필요가 없습니다. 증거의 모든 억제 또는 편집은 증명 가능합니다 — 체인 갭, 분기된 헤드, 또는 노터리 불일치.
sched_switch, sched_process_fork, sched_process_exit 트레이스포인트에 연결된 eBPF 프로그램은 프로세스 수명 주기 이벤트에서 실행됩니다. 이들은 전통적인 (비-BTF) 고정 오프셋 읽기를 사용하여 트레이스포인트 인자에서 작업 ID를 읽습니다:
sched_switch: ctx.read_at::<u32>(56) → next_pid, ctx.read_at::<[u8;16]>(40) → next_comm
sched_process_fork: child_comm @ 28, child_pid @ 44
sched_process_exit: comm @ 8, pid @ 24
의도적으로 BTF/CO-RE를 사용하지 않음. 트레이스포인트 인자 레이아웃은 커널 버전 전반에 걸쳐 안정적입니다(트레이스포인트 ABI의 일부이기 때문입니다). 하드코딩된 오프셋을 사용하면 BTF로 해석되는 구조체 탐색의 커널 버전 취약성을 피할 수 있습니다. 이는 §11에 문서화된 의도적인 설계 선택입니다.
각 writer는 공유 append_ledger 경로를 통해 LedgerRecord를 추가합니다:
seq = per_cpu_seq + 1과 head = chain_hash(prev_head, seq, record)를 계산합니다(이전 head, seq, 그리고 모든 콘텐츠 필드에 대한 FNV-1a-64 — eBPF 측과 사용자 공간 검증기 모두에 컴파일된 동일한 함수, 연속성에 대한 단일 정의).sc_ledger에 기록합니다 — 고정된 65536-슬롯 ARRAY 맵, 커널 측 증거 링(~3.6 MB, 호스트 수명 동안 한정됨).sc_sched 링 버퍼에 미러링합니다(사용자 공간으로의 전송).LEDGER_SEQ/LEDGER_HEAD를 진행시킵니다(append와 경쟁하는 공증인 스냅샷은 이전 또는 새로운 쌍을 보게 되며, 절대 반쯤 쓰인 레코드를 보지 않습니다).Per-CPU 체인, 락 없음. 각 CPU는 LEDGER_HEAD[cpu]/LEDGER_SEQ[cpu]를 소유하며 오직 자신의 트레이스포인트만 이를 기록합니다(중첩되지 않으며, NMI 프로그램은 읽기만 합니다). 이는 스핀락 없이 모든 CPU 간 쓰기 경쟁을 제거합니다.
중복 제거 + 하트비트. sched_switch는 초당 수천 번 발생하며, 지배적인 패턴은 동일한 TGID가 스스로를 재스케줄링하는 것입니다. per-CPU LAST_TGID 캐시는 스케줄된 TGID가 실제로 변경될 때까지 레코드를 억제합니다 — 링 트래픽은 스위치당 방출 대비 수십 배 감소합니다. 유휴 스위치와 긴 단일 작업 실행은 CPU당 초당 최대 하나의 KIND_HEARTBEAT 레코드를 방출하므로, 바쁜 CPU나 유휴 CPU가 분리된 프로브처럼 보일 수 없습니다.
LRU 포화는 구조적으로 불가능합니다. 커널 증거 링은 고정된 최근 윈도우이며, 권위 있는 체인은 데몬의 무제한 사용자 공간 복사본입니다. 커널 링에서 슬롯을 제거해도 아무것도 삭제되지 않습니다 — 레코드는 이미 후속 레코드의 prev_head에 의해 커밋되어 있습니다. 플러드-처닝(fork 폭탄)은 그 자체로 신호이며, 공증인은 모든 억제 윈도우를 1초로 제한합니다.
탐지 엔진은 단일 단조 시간 기준을 사용합니다: SPiCa 프로세스 시작 이후의 나노초(run_detection() 진입 이후 Instant::now()). 레코드가 도착하면 이벤트 핸들러는 레코드에 내장된 eBPF bpf_ktime_get_ns() 값이 아닌 호출자가 제공한 now(프로세스 로컬 나노초)를 저장합니다. 이는 커널 부팅 시간이 프로세스 로컬 시간과 혼합될 경우 발생할 시간 기준 불일치를 방지합니다 — 이전 버전에 존재했으며 모든 라이브니스 술어가 조용히 실패하게 만든 버그입니다.
NMI 프로그램은 하드웨어 인터럽트 수준에서 발생하는 하드웨어 perf 카운터(HW_CPU_CYCLES)에 연결됩니다. NMI는 cli로 비활성화할 수 없습니다 — 이를 억제하려면 PMU를 재프로그래밍하거나 IDT를 후킹해야 하며, 둘 다 눈에 띄고 시스템을 불안정하게 만듭니다.
공증인은 원장에 절대 추가하지 않습니다 — CPU당 단일 writer가 체인을 경쟁 없이 만드는 요인입니다. CPU당 초당 한 번, 자신의 CPU의 (seq, head) 쌍을 sc_nmi 링 버퍼의 NotaryEvent로 스냅샷합니다. 사용자 공간은 모든 스냅샷을 전송 링에서 재구성한 체인과 대조 검증합니다: