Đưa ứng dụng AI lên đẳng cấp mới: Chinh phục Kubernetes ngay trên máy tính của bạn!

Lê Lân

18/07/2025

Triển Khai Ứng Dụng AI Resume Matcher Với Kubernetes Cục Bộ: Hướng Dẫn Từng Bước

Mở Đầu

Chào các bạn, Tim và Juri đây! 👋

Bạn còn nhớ dự án AI Resume Matcher tuyệt vời mà chúng ta đã xây dựng cùng nhau trong bài viết trước chứ? Nếu bạn bỏ lỡ hoặc muốn xem lại, bạn có thể truy cập tại đây . Ứng dụng này giúp tự động quét CV và đối chiếu với mô tả công việc nhờ Java Spring Boot và Google Vertex AI (Gemini), được đóng gói bằng Docker Compose.

Chúng ta đã có một prototype hoạt động với đầy đủ chức năng và giờ là lúc mang nó tiến gần hơn đến môi trường sản xuất thực tế. Làm thế nào để ứng dụng trở nên mạnh mẽ, có thể mở rộng và sẵn sàng cho các dự án lớn hơn? Câu trả lời chính là Kubernetes cục bộ!

Trong bài viết này, bạn sẽ học được cách:

Container hóa ứng dụng Java Spring Boot của bạn với Docker

Thiết lập môi trường Kubernetes trên máy tính cá nhân (với Minikube hoặc Docker Desktop)

Viết các manifest định nghĩa cách ứng dụng và database hoạt động trong Kubernetes

Cấu hình bảo mật xác thực Google Cloud trong Kubernetes để truy cập Vertex AI

Triển khai và truy cập ứng dụng qua Kubernetes Service

1. Tại Sao Nên Chọn Kubernetes Cục Bộ?

Ưu điểm của Kubernetes so với Docker Compose

Docker Compose là công cụ tuyệt vời để phát triển nhanh và cục bộ, nhưng Kubernetes mang lại nhiều lợi ích vượt trội khi chuẩn bị triển khai quy mô lớn:

Mô phỏng môi trường sản xuất: Kubernetes tạo cảm giác về môi trường thực tế, giống như các cụm cluster trên cloud.

Khả năng mở rộng: Quản lý nhiều service phức tạp, microservices dễ dàng hơn.

Kỹ năng chuẩn đám mây: Chuẩn bị thuận lợi hơn cho việc chuyển sang Google Cloud hoặc SAP BTP.

Triển khai và cập nhật đồng nhất: Đảm bảo deploy ứng dụng một cách ổn định và tự động hóa.

Kubernetes cục bộ giúp bạn làm quen với kiến trúc hiện đại và chuẩn bị cho hành trình cloud-native chuyên nghiệp! ☁️

2. Chuẩn Bị Môi Trường

2.1 Yêu cầu phần mềm và tài nguyên

Code dự án AI Resume Matcher: Bạn có thể tải từ GitHub repository của chúng tôi .

Docker Desktop: Tích hợp sẵn Kubernetes và phù hợp với Windows, Mac.

Google Cloud Account & Project:

Tạo một project và kích hoạt API Vertex AI.

Chuẩn bị Service Account có quyền “Vertex AI User” và tải khóa JSON xuống.

2.2 Kích hoạt Kubernetes trong Docker Desktop

Mở Docker Desktop → Settings → Kubernetes.

Tick mục Enable Kubernetes.

Nhấn Apply & Restart.

Kiểm tra bằng lệnh kubectl get nodes , bạn sẽ thấy node có trạng thái Ready.

3. Container Hóa Ứng Dụng AI Resume Matcher

3.1 Xây dựng ứng dụng với Gradle

Mở terminal trong thư mục gốc của dự án smarthire-blog , chạy:

./gradlew build

Sau khi hoàn tất, bạn sẽ nhận được file .jar trong build/libs/ .

3.2 Viết Dockerfile

Tạo file Dockerfile trong thư mục gốc, nội dung:

FROM eclipse-temurin:21-jre-jammy
RUN groupadd --system spring && useradd --system --gid spring spring
USER spring:spring
COPY build/libs/*.jar app.jar
ENTRYPOINT ["java", "-jar", "/app.jar"]
EXPOSE 8080

Giải thích nhanh:

Lệnh	Mục đích
`FROM eclipse-temurin`	Sử dụng Java Runtime nhẹ (JRE) Ubuntu Jammy 21
`RUN groupadd ...`	Tạo user không đặc quyền để chạy ứng dụng
`USER spring:spring`	Chạy ứng dụng dưới user spring để tăng bảo mật
`COPY build/libs/*.jar`	Sao chép file jar vào container
`ENTRYPOINT ...`	Khởi chạy ứng dụng Spring Boot
`EXPOSE 8080`	Thông báo ứng dụng lắng nghe cổng 8080

3.3 Build Docker Image

Chạy lệnh:

docker build -t smarthire-app:v1 .

Kiểm tra image bằng:

docker images

4. Tạo Cluster và Quản Lý với Kubernetes

4.1 Viết manifest cho PostgreSQL + pgvector

Tạo file k8s/postgres-k8s.yaml với nội dung chính:

apiVersion: apps/v1
kind: Deployment
metadata:
  name: postgres
spec:
  replicas: 1
  selector:
    matchLabels:
      app: postgres
  template:
    metadata:
      labels:
        app: postgres
    spec:
      containers:
      - name: postgres
        image: pgvector/pgvector:pg17
        ports:
        - containerPort: 5432
        env:
        - name: POSTGRES_DB
          value: "smarthire"
        - name: POSTGRES_USER
          value: "YOUR_USER"
        - name: POSTGRES_PASSWORD
          value: "YOUR_PASSWORD" # ⚠️ Dùng Secret ở môi trường production
        volumeMounts:
        - name: postgres-data
          mountPath: /var/lib/postgresql/data
      volumes:
      - name: postgres-data
        persistentVolumeClaim:
          claimName: postgres-pvc
---
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: postgres-pvc
spec:
  accessModes:
  - ReadWriteOnce
  resources:
    requests:
      storage: 1Gi
---
apiVersion: v1
kind: Service
metadata:
  name: postgres
spec:
  type: ClusterIP
  ports:
  - port: 5432
    targetPort: 5432
  selector:
    app: postgres

4.2 Viết manifest cho ứng dụng AI Resume Matcher

Tạo file k8s/app-k8s.yaml :

apiVersion: apps/v1
kind: Deployment
metadata:
  name: smarthire-app
spec:
  replicas: 1
  selector:
    matchLabels:
      app: smarthire-app
  template:
    metadata:
      labels:
        app: smarthire-app
    spec:
      containers:
      - name: smarthire-app
        image: smarthire-app:v1
        imagePullPolicy: IfNotPresent
        ports:
        - containerPort: 8080
        env:
        - name: SPRING_DATASOURCE_URL
          value: "jdbc:postgresql://postgres:5432/smarthire"
        - name: SPRING_DATASOURCE_USERNAME
          value: "YOUR_USER"
        - name: SPRING_DATASOURCE_PASSWORD
          value: "YOUR_PASSWORD"
        - name: GOOGLE_APPLICATION_CREDENTIALS
          value: /etc/gcp-auth/key.json
        volumeMounts:
        - name: gcp-sa-key-volume
          mountPath: /etc/gcp-auth
          readOnly: true
      volumes:
      - name: gcp-sa-key-volume
        secret:
          secretName: gcp-sa-key
---
apiVersion: v1
kind: Service
metadata:
  name: smarthire-app
spec:
  type: LoadBalancer
  ports:
  - port: 8090
    targetPort: 8080
  selector:
    app: smarthire-app

Thông tin quan trọng: môi trường ứng dụng được thiết lập để kết nối database và sử dụng Google Cloud Credential qua Secret.

5. Cấu Hình Xác Thực Google Cloud trong Kubernetes

5.1 Tạo Service Account và tải khóa JSON

Tạo Service Account với quyền Vertex AI User trong Google Cloud.

Tải file JSON khóa xuống máy tính.

Giữ file này an toàn, để tránh lộ thông tin.

5.2 Tạo Kubernetes Secret chứa khóa

Chạy lệnh (thay đường dẫn bằng vị trí file của bạn):

kubectl create secret generic gcp-sa-key --from-file=key.json=/path/to/your/service-account-key.json

Secret này sẽ được mount vào container tại /etc/gcp-auth/key.json theo cấu hình manifest.

6. Triển Khai và Kiểm Tra Ứng Dụng

6.1 Áp dụng manifest

Tại thư mục gốc dự án, chạy:

kubectl apply -f k8s/postgres-k8s.yaml
kubectl apply -f k8s/app-k8s.yaml

6.2 Kiểm tra trạng thái pods

kubectl get pods

Hai pods postgres và smarthire-app cần có trạng thái Running .

6.3 Xem logs ứng dụng

Lấy tên pod:

kubectl get pods | grep smarthire-app

Xem logs:

kubectl logs <smarthire-app-pod-name>

Theo dõi logs:

kubectl logs -f <smarthire-app-pod-name>

Nếu bạn thấy thông báo Spring Boot “Tomcat started on port(s): 8080” nghĩa là ứng dụng đã chạy thành công.

6.4 Truy cập ứng dụng từ trình duyệt

Lấy thông tin service:

kubectl get services

Bạn sẽ thấy smarthire-app với TYPE: LoadBalancer và port ngoài là 8090 .

Mở trình duyệt, vào:

http://localhost:8090

Endpoint để upload CV vẫn là:

/api/candidates/upload

Dùng công cụ như Bruno để gửi request POST với nội dung văn bản bản CV mẫu.

Nếu mọi thứ đúng, bạn nhận được response JSON liệt kê các công việc phù hợp với CV.

Kết Luận

Chúng ta đã cùng nhau:

Tạo Docker container cho ứng dụng Java Spring Boot AI Resume Matcher.

Viết manifest Kubernetes cho ứng dụng và database PostgreSQL với pgvector.

Cấu hình xác thực Google Cloud một cách an toàn bằng Kubernetes Secret.

Triển khai ứng dụng lên cluster Kubernetes cục bộ với Docker Desktop.

Truy cập và test ứng dụng trực tiếp từ trình duyệt để đảm bảo hoạt động.

Bằng cách này, bạn không những nâng cao kỹ năng DevOps, mà còn sẵn sàng để đưa AI Resume Matcher lên môi trường sản xuất quy mô lớn hoặc cloud.

Đừng quên chia sẻ trải nghiệm của bạn hoặc đặt câu hỏi dưới phần bình luận nhé!

👉 Khám phá mã nguồn dự án trên GitHub

Tham Khảo

Official Kubernetes Documentation

Google Cloud Vertex AI

Docker Desktop Kubernetes Guide

pgvector on Docker Hub

Reebow, "Using RAG with Java Spring Boot AI & Google Vertex AI – Automated Resume Matcher," dev.to, 2024. April 10, 2024