MailPlus Server 설치 및 보안 설정 완벽 가이드

MailPlus Server 설치 및 보안 설정 완벽 가이드

Synology NAS는 단순 파일 서버를 넘어 안정적인 자체 메일 서버(MailPlus Server) 구축까지 가능하게 해줍니다.
이번 글에서는 MailPlus Server의 기본 설치 방법부터, 실제 운영 환경에서 반드시 필요한 보안 강화 설정까지 정리합니다.
(실제 구축 사례 기반으로 작성되었습니다.)

1. 📦 MailPlus Server 설치 준비

✔️ 필수 준비 사항

항목내용
고정 IP 또는 DDNS메일 서버는 외부에서 접속 가능해야 함
자체 도메인예: qideun.com
DNS 레코드 설정MX, SPF, DKIM, DMARC
Synology NAS + DSMMailPlus Server 패키지 설치 가능해야 함
포트 개방25, 465, 587, 993/995 등

2. 📥 MailPlus Server 설치

1) 패키지 센터 → MailPlus Server 설치

MailPlus와 MailPlus Server 2개 모두 설치됩니다.

2) 첫 설정 진행

설치 후 실행하면 초기 설정 마법사가 나타납니다.

  • 메일 도메인 입력 → qideun.com
  • 저장 위치 선택
  • 관리자 계정 선택

3. 🌐 도메인 DNS 레코드 설정

메일 서버 운영의 핵심은 DNS입니다. 아래 4가지가 반드시 필요합니다.

✔ 3-1) MX 레코드

@ → mail.qideun.com

✔ 3-2) SPF 레코드 (발송 위조 방지)

v=spf1 ip4:14.55.1.152 -all

✔ 3-3) DKIM 레코드

MailPlus Server → 보안 → 인증 → DKIM → 키 생성
이후 도메인에 TXT 레코드 등록:

qideun._domainkey   "v=DKIM1; k=rsa; p=MIGF...."

✔ 3-4) DMARC 레코드

강력 보안을 위해 p=quarantine 또는 p=reject 권장.

_dmarc   "v=DMARC1; p=quarantine; rua=mailto:dmarc@qideun.com"

4. ✉ 메일 수신·발신 포트 설정

MailPlus Server → 서비스 → 프로토콜

✔ SMTP (25)
✔ SMTP-SSL/TLS (465)
✔ SMTP-STARTTLS (587)
✔ IMAP-SSL (993)
✔ POP3-SSL (995)

기본적으로 IMAP 사용을 권장합니다.

5. 🔒 MailPlus Server 보안 설정 (강화 버전)

이번 단계는 많은 사용자들이 헷갈려 하지만,
실제로 메일 서버의 생존 여부를 결정하는 가장 중요한 부분입니다.

아래 설정은 운영 환경에서 적용된 강력 보안 설정입니다.

✔ 5-1) SMTP 인증 및 보안

경로: 메일 배달 → 일반

  • ☑ SMTP 인증 활성화
  • ☑ 보낸 사람 이메일 주소가 로그인 계정에 속하는지 확인
  • ☑ 암호화되지 않은 연결을 통한 일반 텍스트 인증 금지
  • FQDN: mail.qideun.com
  • SMTP 배너: mail.qideun.com

👉 인증되지 않은 발송 차단
👉 스푸핑 방지
👉 오픈 릴레이 차단

✔ 5-2) 수신 거부 규칙 (수신자 정책)

경로: 메일 배달 → 보안(설정)

  • ☑ FQDN 사용하지 않은 보낸 사람 거부
  • ☑ 알 수 없는 도메인에서 보낸 사람 거부

👉 무작위 스팸 발송자의 대부분을 컷

✔ 5-3) 연결 정책 (특정 공격 방어)

  • 제한보다 많은 동시 연결 유지: 2
  • 1분 내 제한보다 많은 메시지 발송: 5
  • 1분 내 제한보다 많은 연결 구축: 5

👉 봇/스팸봇/사전공격 자동 차단

✔ 5-4) 고급 보안 옵션

  • ☑ 비승인 파이프라이닝 요청 거부
  • ☑ FQDN 없이 HELLO 거부
  • ☑ 알 수 없는 HELO 호스트 이름 거부
  • ☑ 제한보다 많은 존재하지 않는 계정 발송 IP 차단 (5회)

👉 메일 서버 공격 시도 99% 자동 차단

✔ 5-5) DNSBL(스팸 IP 블랙리스트) 적용

DNSBL 설정 예:

DNSBL 서버점수
sbl.spamhaus.org1
xbl.spamhaus.org1

👉 블랙리스트에 있는 IP는 즉시 차단
👉 스팸 유입 급감

주의

  • DNS 서버는 반드시 Cloudflare(1.1.1.1) 또는 Google(8.8.8.8)로 변경해야 지연 없음

✔ 5-6) DMARC/SPF/DKIM ON

MailPlus Server → 보안 → 인증

  • ☑ SPF 활성화
  • ☑ DKIM 활성화
  • ☑ DMARC 활성화

👉 구글/네이버/카카오 등 주요 메일 서비스에서 신뢰도 상승
👉 스팸함으로 빠질 확률 감소

✔ 5-7) DANE/TLSA 설정 (선택적이지만 매우 강력)

  • ☑ DANE 확인 활성화
  • 모드: 필수 확인
  • TLSA 레코드 발행 후 DNSSEC 활성화 필요

👉 메일 전송 링크 암호화 보증

이것은 대형 기업 수준의 이메일 보안입니다.

6. 📊 운영 중 모니터링

MailPlus Server → 트랜잭션 로그
여기서 다음을 모니터링합니다:

  • SPF, DKIM, DMARC 결과
  • 보안 문제 발생 여부
  • “milter-reject 451” 같은 Rspamd 지연 문제

👉 문제 발생 시 즉시 원인 파악 가능

7. 🧩 최종 구성 요약

아래는 실제 구축 후 적용된 보안 구성을 표로 정리한 것입니다.

항목상태
SMTP 인증ON
TLS 필수ON
SPFpass
DKIMpass
DMARCpass
DANEpass
DNSBL2개 적용
HELO/FQDN 검사ON
비정상 파이프라이닝차단
무차별 대입 공격차단
스팸 필터 엔진Rspamd
spf/dkim/dmarc 테스트Gmail 기준 100% 정상

🏁 결론

Synology MailPlus Server는 기본 설정만으로도 충분히 안정적이지만,
DNS + 인증 + 보안 정책 + 스팸 필터링의 조합이 완성되면
대형 기업 수준의 강력한 메일 서버가 됩니다.

이번 글의 설정은 실제 운영 환경에서 테스트된 결과이며,
구글/네이버/카카오 등으로의 수신/발신도 매우 안정적입니다.

태그: , ,

답글 남기기