Biến AI Resume Matcher thành "siêu sao" với Local Kubernetes! Từ Docker Compose đến "Ông Trùm" Kubernetes

Lê Lân

22/07/2025

Hướng Dẫn Triển Khai Ứng Dụng AI Resume Matcher với Kubernetes Cục Bộ

Mở Đầu

Chào mọi người, Tim và Juri đây! 👋 Bạn có còn nhớ dự án AI Resume Matcher mà chúng ta đã cùng xây dựng trong bài trước không? Một ứng dụng Java Spring Boot kết hợp với Google Vertex AI giúp tự động quét CV và so khớp với mô tả công việc. Trong bài viết lần này, chúng ta sẽ cùng bước tiếp, chuyển từ Docker Compose sang triển khai trên Kubernetes cục bộ, chuẩn bị cho việc đưa ứng dụng lên môi trường sản xuất.

Việc sử dụng Kubernetes tại máy local là bước rất quan trọng để nâng cao độ bền, khả năng mở rộng và luyện tập các kỹ năng triển khai các ứng dụng đám mây phức tạp hơn. Nội dung bài viết sẽ hướng dẫn bạn từng bước:

Tạo Docker container cho ứng dụng Spring Boot.

Thiết lập môi trường Kubernetes cục bộ bằng Docker Desktop hoặc Minikube.

Viết các file manifest YAML để điều phối ứng dụng và cơ sở dữ liệu PostgreSQL tích hợp pgvector.

Cấu hình bảo mật để ứng dụng truy cập Google Vertex AI từ trong Kubernetes.

Triển khai và kiểm thử ứng dụng trên Kubernetes local.

Hãy cùng bắt đầu hành trình này để chuẩn bị cho ứng dụng AI Resume Matcher ngày càng vững chắc và chuyên nghiệp hơn!

1. Containerizing Ứng Dụng AI Resume Matcher của Chúng Ta

1.1 Xây dựng Ứng dụng với Gradle

Dự án sử dụng Gradle làm công cụ build. Bạn cần chạy lệnh sau trong thư mục gốc của dự án smarthire-blog để tạo file JAR:

./gradlew build

Sau khi chạy, file JAR thực thi sẽ nằm trong build/libs/ .

1.2 Viết Dockerfile

Tạo file Dockerfile trong thư mục gốc với nội dung:

FROM eclipse-temurin:21-jre-jammy
RUN groupadd --system spring && useradd --system --gid spring spring
USER spring:spring
COPY build/libs/*.jar app.jar
ENTRYPOINT ["java", "-jar", "/app.jar"]
EXPOSE 8080

Giải thích các bước chính:

Sử dụng base image JRE Java 21 nhẹ, giúp container nhỏ gọn.

Tạo user không đặc quyền để chạy ứng dụng an toàn hơn.

Copy file JAR vào container và chỉ định lệnh chạy.

Mở port 8080 ứng dụng sẽ lắng nghe.

Điều quan trọng: Luôn sử dụng user không phải root trong container để tăng cường bảo mật.

1.3 Xây dựng Docker Image

Chạy lệnh này trong thư mục dự án:

docker build -t smarthire-app:v1 .

-t gắn tag tên image: smarthire-app phiên bản v1 .

Dấu . tham chiếu vị trí Dockerfile và ngữ cảnh build hiện tại.

Kiểm tra image bằng lệnh:

docker images

2. Khởi Động Kubernetes Cục Bộ Với Docker Desktop

2.1 Bật Kubernetes trong Docker Desktop

Mở Docker Desktop → Settings → Kubernetes.

Tích chọn Enable Kubernetes → Apply & Restart.

Đợi Docker Desktop tải và kích hoạt cluster Kubernetes đơn node.

2.2 Kiểm Tra Cluster

Mở terminal, gõ:

kubectl get nodes

Bạn sẽ nhìn thấy node docker-desktop với trạng thái Ready .

Bằng cách này, bạn đã có môi trường Kubernetes cục bộ giống với môi trường sản xuất thật sự, giúp thử nghiệm chuẩn xác hơn.

3. Quản Lý Triển Khai với Kubernetes Manifest

3.1 Định Nghĩa Database PostgreSQL với pgvector

Tạo file k8s/postgres-k8s.yaml :

apiVersion: apps/v1
kind: Deployment
metadata:
  name: postgres
spec:
  replicas: 1
  selector:
    matchLabels:
      app: postgres
  template:
    metadata:
      labels:
        app: postgres
    spec:
      containers:
      - name: postgres
        image: pgvector/pgvector:pg17
        ports:
        - containerPort: 5432
        env:
        - name: POSTGRES_DB
          value: "smarthire"
        - name: POSTGRES_USER
          value: "YOUR_USER"
        - name: POSTGRES_PASSWORD
          value: "YOUR_PASSWORD" # ❗ Trong thực tế dùng K8s Secrets!
        volumeMounts:
        - name: postgres-data
          mountPath: /var/lib/postgresql/data
      volumes:
      - name: postgres-data
        persistentVolumeClaim:
          claimName: postgres-pvc
---
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: postgres-pvc
spec:
  accessModes:
  - ReadWriteOnce
  resources:
    requests:
      storage: 1Gi
---
apiVersion: v1
kind: Service
metadata:
  name: postgres
spec:
  type: ClusterIP
  ports:
  - port: 5432
    targetPort: 5432
  selector:
    app: postgres

Thành phần	Mô tả
Deployment	Chạy container `pgvector/pgvector:pg17` cho PostgreSQL.
PVC	Yêu cầu ổ lưu trữ bền 1GiB để giữ dữ liệu khi pod khởi động lại.
Service	Định nghĩa dịch vụ ClusterIP để kết nối nội bộ trong cluster.

3.2 Tạo Manifest Ứng Dụng AI Resume Matcher

Tạo file k8s/app-k8s.yaml :

apiVersion: apps/v1
kind: Deployment
metadata:
  name: smarthire-app
spec:
  replicas: 1
  selector:
    matchLabels:
      app: smarthire-app
  template:
    metadata:
      labels:
        app: smarthire-app
    spec:
      containers:
      - name: smarthire-app
        image: smarthire-app:v1
        imagePullPolicy: IfNotPresent
        ports:
        - containerPort: 8080
        env:
        - name: SPRING_DATASOURCE_URL
          value: "jdbc:postgresql://postgres:5432/smarthire"
        - name: SPRING_DATASOURCE_USERNAME
          value: "YOUR_USER"
        - name: SPRING_DATASOURCE_PASSWORD
          value: "YOUR_PASSWORD"
        - name: GOOGLE_APPLICATION_CREDENTIALS
          value: /etc/gcp-auth/key.json
        volumeMounts:
        - name: gcp-sa-key-volume
          mountPath: /etc/gcp-auth
          readOnly: true
      volumes:
      - name: gcp-sa-key-volume
        secret:
          secretName: gcp-sa-key
---
apiVersion: v1
kind: Service
metadata:
  name: smarthire-app
spec:
  type: LoadBalancer
  ports:
  - port: 8090
    targetPort: 8080
  selector:
    app: smarthire-app

Dùng môi trường biến để bảo mật thông tin kết nối DB và Google Cloud.

Mount Secret Google Cloud JSON key để ứng dụng truy cập Vertex AI.

4. Cấu Hình Xác Thực Google Cloud Trong Kubernetes

4.1 Chuẩn Bị Key JSON Service Account

Tạo Service Account trên Google Cloud với quyền “Vertex AI User”.

Tải file JSON key về máy tính cá nhân.

Giữ file này thật an toàn, tránh lộ lọt.

4.2 Tạo Kubernetes Secret Từ Key JSON

Chạy lệnh:

kubectl create secret generic gcp-sa-key --from-file=key.json=/path/to/your-download-service-account-key.json

Thay thế đường dẫn /path/to/your-download-service-account-key.json bằng đường dẫn chính xác tới file JSON.

4.3 Ý Nghĩa

Secret gcp-sa-key sẽ được mount vào ứng dụng ở thư mục /etc/gcp-auth .

Ứng dụng lấy GOOGLE_APPLICATION_CREDENTIALS để xác thực Google Vertex AI.

5. Triển Khai Ứng Dụng Lên Kubernetes

5.1 Áp Dụng Manifest

Chạy tuần tự:

kubectl apply -f k8s/postgres-k8s.yaml
kubectl apply -f k8s/app-k8s.yaml

Các tài nguyên Deployment, Service và PersistentVolumeClaim sẽ được tạo.

5.2 Kiểm Tra Trạng Thái

kubectl get pods

Đảm bảo các pod postgres và smarthire-app có trạng thái Running .

kubectl get services

Xem smarthire-app có EXTERNAL-IP là localhost và cổng 8090 được mở.

5.3 Theo Dõi Log Ứng Dụng

Lấy tên pod:

kubectl get pods | grep smarthire-app

Xem log:

kubectl logs <tên-pod-smarthire-app>

Thêm -f để xem theo thời gian thực.

6. Kiểm Thử Ứng Dụng Trên Kubernetes

Sử dụng API client (ví dụ: Bruno ) gửi yêu cầu POST tới:

http://localhost:8090/api/candidates/upload

Kèm theo body là nội dung bản CV plain-text từ bài viết trước.

Kết quả trả về sẽ bao gồm các job offer được match tốt nhất tương tự như dự án trên Docker Compose.

Kết Luận

Chúng ta đã hoàn thành hành trình:

Tạo Docker container cho ứng dụng AI Resume Matcher.

Thiết lập Kubernetes local với Docker Desktop.

Viết manifest YAML để điều phối ứng dụng và database PostgreSQL.

Cấu hình xác thực Google Cloud an toàn trong Kubernetes.

Triển khai và kiểm thử ứng dụng thành công trên Kubernetes cục bộ.

Kubernetes local là bước đệm tuyệt vời để chuẩn bị cho triển khai học hỏi kỹ thuật cloud native, giúp ứng dụng dễ dàng mở rộng và vận hành trên môi trường đám mây như Google Cloud trong tương lai.

Hãy thử nghiệm ngay hôm nay và đừng ngần ngại chia sẻ kinh nghiệm hoặc thắc mắc cùng chúng tôi! 👨‍💻

Tham Khảo

Dự án AI Resume Matcher trên GitHub

Kubectl Documentation

Google Cloud Service Accounts

Dockerfile Best Practices

Kubernetes Official Tutorials

Google Vertex AI Documentation