Blog - letranglan.top

AWS Lambda Hóa Công Cụ AI: Hướng Dẫn Kích Hoạt với Amazon Bedrock AgentCore Gateway (Phần 3)

Chào mừng bạn đến với phần 3 cực kỳ hấp dẫn của series bài viết về Amazon Bedrock AgentCore Gateway! Trong những phần trước, chúng ta đã cùng nhau khám phá AgentCore Gateway – một "cánh cổng thần kỳ" giúp biến các API và hàm Lambda hiện có thành những công cụ sẵn sàng cho Agent AI, mở ra khả năng truy cập thống nhất qua nhiều giao thức, bao gồm cả Model Context Protocol (MCP), và khả năng tự động khám phá công cụ trong thời gian chạy. Ở phần 2, chúng ta đã biến một REST API Gateway thành công cụ tương thích MCP. Hôm nay, chúng ta sẽ "độ" tiếp các hàm Lambda của mình để chúng cũng trở thành những "trợ thủ đắc lực" cho các AI Agent thông qua AgentCore Target! Chúng ta sẽ tiếp tục sử dụng hai hàm Lambda quen thuộc: `GetOrderByID` và `GetOrdersByCreatedDates`. Hãy cùng bắt đầu hành trình biến hóa này nhé!<img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://i.imgur.com/gVj3Y7o.png' alt='Sơ đồ tổng quan AgentCore Gateway và Lambda'>Bạn muốn "hô biến" các hàm AWS Lambda hiện có của mình thành công cụ MCP qua Bedrock AgentCore Gateway? Nghe có vẻ phức tạp nhưng thực ra chỉ là vài bước cấu hình thôi! Để minh họa, chúng ta sẽ tái sử dụng ứng dụng mẫu và API Gateway đã được mô tả chi tiết trong bài viết "Serverless applications with Java and Aurora DSQL - Part 1". Bạn có thể tìm thấy toàn bộ mã nguồn tại đây.Chúng ta sẽ dùng một Jupyter Notebook Python có sẵn từ kho lưu trữ GitHub chính thức của AWS (amazon-bedrock-agentcore-samples) và tùy chỉnh nó để phù hợp với yêu cầu của mình. Tôi cũng đã chia sẻ phiên bản cuối cùng của playbook này trên GitHub cá nhân của mình.Đây là kiến trúc tổng quan về cách chúng ta sẽ biến đổi các hàm AWS Lambda hiện có thành công cụ MCP sử dụng Bedrock AgentCore Gateway:<img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://i.imgur.com/tY7g8Y4.png' alt='Kiến trúc biến Lambda thành công cụ MCP'>Quy trình hoạt động của Gateway để kết nối các agent của bạn với các công cụ bên ngoài bao gồm các bước sau:<ul><li><b>Tạo công cụ cho Gateway của bạn:</b> Định nghĩa các công cụ bằng schemas, bao gồm ARN của hàm Lambda, các tham số công cụ và kiểu dữ liệu của chúng.</li><li><b>Tạo một Gateway endpoint:</b> Xây dựng cổng gateway sẽ là điểm truy cập MCP với xác thực đầu vào.</li><li><b>Thêm target vào Gateway của bạn:</b> Cấu hình các target là hàm Lambda, xác định cách gateway định tuyến yêu cầu đến các công cụ cụ thể. Tất cả các hàm Lambda này sẽ trở thành một công cụ tương thích MCP và sẽ được cung cấp thông qua URL của Gateway endpoint của bạn. Cấu hình ủy quyền IAM đầu ra cho mỗi target Lambda.</li><li><b>Cập nhật mã agent của bạn:</b> Kết nối agent của bạn với Gateway endpoint để truy cập tất cả các công cụ đã cấu hình thông qua giao diện MCP thống nhất.</li></ul>Để thực hiện hướng dẫn này, bạn cần chuẩn bị:<ul><li>Jupyter Notebook (với kernel Python)</li><li>`uv` (một công cụ quản lý package Python siêu nhanh)</li><li>Thông tin đăng nhập AWS (đã cấu hình trong `.aws\credentials` là đủ)</li><li>Amazon Cognito</li></ul>Bây giờ, chúng ta sẽ cùng nhau đi từng bước qua các phần quan trọng của Python Jupyter Notebook. Để chạy được nó, bạn cũng cần tải file `agent_core_utils.py` và đặt nó cùng thư mục với notebook. Tôi đã copy file này từ kho mẫu của AWS để tiện tùy chỉnh sau này.<h3>1. Cài đặt các thư viện cần thiết</h3>Bước đầu tiên luôn là kiểm tra và cài đặt các 'nguyên liệu' cơ bản! Chúng ta sẽ kiểm tra xem `uv` đã có chưa, sau đó dùng nó để cài `botocore` và `boto3`. Đơn giản phải không nào?<h3>2. Cấu hình Môi trường</h3>Tiếp theo, chúng ta đặt biến môi trường `AWS_DEFAULT_REGION` là 'us-east-1' (tất nhiên bạn có thể chọn một region khác mà AgentCore được hỗ trợ). Nếu bạn đã cấu hình `AWS_ACCESS_KEY_ID` và `AWS_SECRET_ACCESS_KEY` trong `.aws\credentials` thì khỏi cần đặt lại nhé, các client của AWS sẽ tự động nhận diện từ đó!```pythonimport osimport agent_core_utilsos.environ['AWS_DEFAULT_REGION'] = 'us-east-1'```<h3>3. Tạo hoặc Tái sử dụng IAM Role cho AgentCore Gateway</h3>Đây là bước quan trọng để cấp quyền cho Gateway. Chúng ta sẽ dùng `agent_core_utils` để tạo một IAM role cho AgentCore Gateway, hoặc tái sử dụng role đã tạo ở phần 2. Role này sẽ cho phép Gateway thực hiện các thao tác cần thiết.<img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2F47m71a784rxwk1frqgyg.png' alt='IAM role và policy cho AgentCore Gateway'>```pythonimport agent_core_utilsagentcore_gateway_iam_role = agent_core_utils.create_agentcore_gateway_role("sample-lambdagateway")print("Agentcore gateway role ARN: ", agentcore_gateway_iam_role['Role']['Arn'])```Sau khi chạy bước này, IAM role và policy của bạn sẽ trông như thế này trong AWS.<h3>4. Cấu hình Amazon Cognito User Pool</h3>Để đảm bảo an toàn, chúng ta cần một cơ chế xác thực. Bước này sẽ tạo một Cognito User Pool (nếu chưa có, hoặc tái sử dụng nếu bạn đã tạo ở phần 2). Chúng ta cũng sẽ tạo hoặc lấy lại client ID và client secret cho ứng dụng machine-to-machine (M2M) của Cognito. Các thông tin này cực kỳ quan trọng để tạo ra token xác thực khi Agent muốn "nói chuyện" với Gateway.<img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2F7is538yqn95ue5c7lo4u.png' alt='Cognito User Pool đã cấu hình'>```pythonimport osimport boto3import requestsimport timefrom botocore.exceptions import ClientErrorREGION = os.environ['AWS_DEFAULT_REGION']USER_POOL_NAME = "sample-agentcore-gateway-pool"RESOURCE_SERVER_ID = "sample-agentcore-gateway-id"RESOURCE_SERVER_NAME = "sample-agentcore-gateway-name"CLIENT_NAME = "sample-agentcore-gateway-client"SCOPES = [ {"ScopeName": "gateway:read", "ScopeDescription": "Read access"}, {"ScopeName": "gateway:write", "ScopeDescription": "Write access"}]scopeString = f"{RESOURCE_SERVER_ID}/gateway:read {RESOURCE_SERVER_ID}/gateway:write"cognito = boto3.client("cognito-idp", region_name=REGION)print("Creating or retrieving Cognito resources...")user_pool_id = agent_core_utils.get_or_create_user_pool(cognito, USER_POOL_NAME)print(f"User Pool ID: {user_pool_id}")agent_core_utils.get_or_create_resource_server(cognito, user_pool_id, RESOURCE_SERVER_ID, RESOURCE_SERVER_NAME, SCOPES)print("Resource server ensured.")client_id, client_secret = agent_core_utils.get_or_create_m2m_client(cognito, user_pool_id, CLIENT_NAME, RESOURCE_SERVER_ID)print(f"Client ID: {client_id}")# Get discovery URLcognito_discovery_url = f'https://cognito-idp.{REGION}.amazonaws.com/{user_pool_id}/.well-known/openid-configuration'print(cognito_discovery_url)```Sau khi thực hiện, Cognito Pool của chúng ta sẽ hiển thị như hình trên trong AWS (các thông tin nhạy cảm như ARN và URL khóa ký token đã được ẩn đi).<h3>5. Tạo AgentCore Gateway</h3>Đây là trái tim của hệ thống! Chúng ta sẽ tạo một Gateway với tên `LambdaOrderGateway`, sử dụng Cognito Authorizer (không dùng CMK) dựa trên user pool đã tạo ở bước trước. Giao thức sẽ là MCP. Gateway này sẽ là điểm kết nối cho các Lambda của chúng ta.<img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2Frod0lhly9nuzc5ki20n0.png' alt='AgentCore Gateway đã tạo'>```pythonimport boto3gateway_client = boto3.client('bedrock-agentcore-control', region_name = os.environ['AWS_DEFAULT_REGION'])auth_config = { "customJWTAuthorizer": { "allowedClients": [client_id], # Client MUST match with the ClientId configured in Cognito. Example: 7rfbikfsm51j2fpaggacgng84g "discoveryUrl": cognito_discovery_url }}create_response = gateway_client.create_gateway(name='LambdaOrderGateway', roleArn = agentcore_gateway_iam_role['Role']['Arn'], # The IAM Role must have permissions to create/list/get/delete Gateway protocolType='MCP', authorizerType='CUSTOM_JWT', authorizerConfiguration=auth_config, description='AgentCore Gateway with AWS Lambda target type')print(create_response)gatewayID = create_response["gatewayId"]gatewayURL = create_response["gatewayUrl"]print(gatewayID)```Sau khi thực hiện bước này, AgentCore Gateway đã tạo sẽ xuất hiện như hình trên trong AWS.<h3>6. Tạo AgentCore Gateway Targets (cho từng hàm Lambda)</h3>Bây giờ là lúc kết nối các "trợ thủ" Lambda của chúng ta! Chúng ta sẽ tạo hai AgentCore Gateway Targets, mỗi target cho một hàm Lambda hiện có. Công việc này gồm hai phần chính: cấu hình target Lambda và cấu hình xác thực.<h4>6.1. Cấu hình Target Lambda cho `GetOrderByIdWithJava21Lambda`</h4>Chúng ta cần cung cấp ARN của hàm Lambda (nhớ thay bằng ARN của bạn nhé!), sau đó định nghĩa tên và mô tả của công cụ MCP. Quan trọng nhất là `inputSchema` – nơi chúng ta chỉ định các tham số đầu vào (ở đây là `id` cho order id) và đánh dấu chúng là `required` (bắt buộc).```pythonorder_by_id_lambda_target_config = { "mcp": { "lambda": { "lambdaArn": '${YourGetOrderByIdLambdaFunctionARN}', # Thay thế bằng ARN Lambda của bạn "toolSchema": { "inlinePayload": [ { "name": "get_order_by_id_tool", "description": "tool to get the order by id", "inputSchema": { "type": "object", "properties": { "id": { "type": "string" } }, "required": ["id"] } } ] } } }}```<h4>6.2. Cấu hình Target Lambda cho `GetOrdersByCreatedDatesLambda`</h4>Tương tự, với hàm `GetOrdersByCreatedDatesLambda`, chúng ta có hai tham số bắt buộc là `startDate` và `endDate`.<h4>6.3. Cấu hình Xác thực</h4>Phần này khá đơn giản, chúng ta chỉ cần đặt kiểu nhà cung cấp thông tin xác thực là `GATEWAY_IAM_ROLE`.```jsoncredential_config = [ { "credentialProviderType" : "GATEWAY_IAM_ROLE" }]```<h4>6.4. Tạo các AgentCore Targets</h4>Cuối cùng, chúng ta tạo hai AgentCore Targets bằng cách truyền cấu hình target Lambda và cấu hình xác thực đã chuẩn bị.Ví dụ cho target `GetOrderByIdLambda`:```pythonorder_by_id_targetname='GetOrderByIdLambda'response = gateway_client.create_gateway_target( gatewayIdentifier=gatewayID, name=order_by_id_targetname, description='Order by id Lambda Target', targetConfiguration=order_by_id_lambda_target_config, credentialProviderConfigurations=credential_config)```Đây là toàn bộ đoạn mã để thực thi hai target:```pythonorder_by_id_lambda_target_config = { "mcp": { "lambda": { "lambdaArn": '${YourGetOrderByIdLambdaFunctionARN}', # Thay thế bằng ARN Lambda của bạn "toolSchema": { "inlinePayload": [ { "name": "get_order_by_id_tool", "description": "tool to get the order by id", "inputSchema": { "type": "object", "properties": { "id": { "type": "string" } }, "required": ["id"] } } ] } } }}order_by_created_dates_lambda_target_config = { "mcp": { "lambda": { "lambdaArn": '${YourGetOrdersByCreatedDatesLambdaFunctionARN}', # Thay thế bằng ARN Lambda của bạn "toolSchema": { "inlinePayload": [ { "name": "get_orders_by_created_dates_tool", "description": "tool to get the order by created dates", "inputSchema": { "type": "object", "properties": { "startDate": { "type": "string" }, "endDate": { "type": "string" } }, "required": ["startDate","endDate"] } } ] } } }}credential_config = [ { "credentialProviderType" : "GATEWAY_IAM_ROLE" }]order_by_id_targetname='GetOrderByIdLambda'response = gateway_client.create_gateway_target( gatewayIdentifier=gatewayID, name=order_by_id_targetname, description='Order by id Lambda Target', targetConfiguration=order_by_id_lambda_target_config, credentialProviderConfigurations=credential_config)order_by_id_targetname='GetOrderByCreatedDatesLambda'response = gateway_client.create_gateway_target( gatewayIdentifier=gatewayID, name=order_by_id_targetname, description='Orders by created dates Lambda Target', targetConfiguration=order_by_created_dates_lambda_target_config, credentialProviderConfigurations=credential_config)```Sau khi chạy bước này, các AgentCore Gateway Targets của bạn sẽ được tạo ra như thế này:<img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2Frqv5n5huvkxi0s4pjwjl.png' alt='AgentCore Gateway Targets'>Và chi tiết hơn cho từng target:<ul><li>**`GetOrderByIdLambda`:**<img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2Fkzzkc4ar46u8mna22m65.png' alt='Cấu hình GetOrderByIdLambda Target'></li><li>**`GetOrderByCreatedDatesLambda`:**<img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2Fgp0nwfg5qgaaw10cgdt9.png' alt='Cấu hình GetOrderByCreatedDatesLambda Target'></li></ul><img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2Fqvw6ng37bi60q4vz9j27.png' alt='Chi tiết Target 1'><img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2Fx2rjjkisqa55jr05wg90.png' alt='Chi tiết Target 2'>Vậy là chúng ta đã hoàn tất việc tạo và cấu hình AgentCore Gateway! Bây giờ, hãy cùng "trò chuyện" với agent xem sao nhé.<img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2Fy5x6q57pyxz4yaptd6rs.png' alt='Giao diện View invocation code'>Bạn có thể sao chép mã cho "Python with Requests", "MCP Python SDK", hoặc "Strands MCP Client" từ phần "View invocation code" của AgentCore Gateway.Trong trường hợp chúng ta sử dụng notebook này, nơi chúng ta dùng Strands MCP Client, bạn cần lặp lại các bước 2 (đặt AWS Region mặc định và import `agent_core_utils`) và bước 4 (lấy lại Cognito Pool hiện có để đặt các biến `client_id`, `client_secret` và `cognito_discovery_url`).Chúng ta sẽ chạy agent cục bộ và khám phá AgentCore Runtime trong một series bài viết khác. Amazon Bedrock AgentCore Runtime cung cấp một môi trường lưu trữ an toàn, không máy chủ và được xây dựng chuyên biệt để triển khai và chạy các agent hoặc công cụ AI. Đây là một ví dụ về cách triển khai Strands Agents lên Amazon Bedrock AgentCore Runtime.<h4>Lấy Token Xác thực</h4>Đầu tiên, chúng ta cần lấy token xác thực. Đây là chìa khóa để agent có thể "trò chuyện" với Gateway.```pythonimport agent_core_utilsprint("Requesting the access token from Amazon Cognito authorizer...May fail for some time till the domain name propagation completes")token_response = agent_core_utils.get_token(user_pool_id, client_id, client_secret,scopeString,REGION)token = token_response["access_token"]print("Token response:", token)```<h4>Tạo MCP Client và Agent</h4>Tiếp theo, chúng ta tạo một MCP client và một agent. Agent này sẽ sử dụng mô hình Amazon Bedrock (`us.amazon.nova-pro-v1:0` với `temperature=0.7`). Bạn có thể thử nghiệm với các cài đặt này. Strands Agent hỗ trợ tất cả các mô hình, kể cả những mô hình chạy cục bộ như Ollama. Nhưng nhớ đảm bảo rằng nếu dùng Amazon Bedrock, mô hình đó phải được kích hoạt trong Model Access nhé.Sau đó, chúng ta yêu cầu client liệt kê tất cả các công cụ (qua lệnh `client.list_tools_sync`). Đừng quên đặt `gateway_url` của AgentCore Gateway đã tạo trước đó.```pythonfrom strands import Agentimport loggingfrom strands.models import BedrockModelfrom strands.tools.mcp.mcp_client import MCPClientfrom mcp.client.streamable_http import streamablehttp_clientimport osimport requestsimport jsondef fetch_access_token(): return token;def create_streamable_http_transport(mcp_url: str, access_token: str): return streamablehttp_client(mcp_url, headers={"Authorization": f"Bearer {token}"})def get_full_tools_list(client): """ List tools w/ support for pagination """ more_tools = True tools = [] pagination_token = None while more_tools: tmp_tools = client.list_tools_sync(pagination_token=pagination_token) tools.extend(tmp_tools) if tmp_tools.pagination_token is None: more_tools = False else: more_tools = True pagination_token = tmp_tools.pagination_token return toolsdef run_agent(mcp_url: str, access_token: str): model = BedrockModel( model_id="us.amazon.nova-pro-v1:0", temperature=0.7) mcp_client = MCPClient(lambda: create_streamable_http_transport(mcp_url, access_token)) with mcp_client: tools = get_full_tools_list(mcp_client) print(f"Found the following tools: {[tool.tool_name for tool in tools]}")gateway_url = "${YOUR_Gateway_resource_URL}"run_agent(gateway_url, fetch_access_token())```Khi chạy đoạn mã này, kết quả sẽ hiển thị danh sách các công cụ mà agent đã tìm thấy:```textFound the following tools: ['GetOrderByCreatedDatesLambda_get_orders_by_created_dates_tool', 'GetOrderByIdLambda_get_order_by_id_tool']```Tuyệt vời! Agent đã nhận diện được hai hàm Lambda của chúng ta là các công cụ hợp lệ. Bây giờ, chúng ta sẽ làm tương tự như ở phần 2: "trò chuyện" với cùng hàm Lambda, nhưng lần này là trực tiếp qua AgentCore Gateway chứ không phải qua Open API.Tôi đã tạo sẵn một số đơn hàng và sản phẩm trong cơ sở dữ liệu. Giờ thì hãy tạo Strands Agent và hỏi về đơn hàng có ID là `12345` nhé!Dưới đây là đoạn mã bổ sung liên quan. Chúng ta truyền thông tin về mô hình Bedrock đã tạo và các công cụ MCP đã lấy được cho Strands Agent:```pythonwith mcp_client: tools = get_full_tools_list(mcp_client) print(f"Found the following tools: {[tool.tool_name for tool in tools]}") agent = Agent(model=model, tools=tools) agent("Give me the information about order with id 12345")```Khi chạy đoạn mã này, bạn sẽ thấy... không có gì cả! Agent bị "treo". Hãy cùng kiểm tra CloudWatch xem có chuyện gì nhé. Hàm Lambda (viết bằng Java) đã được thực thi (nghĩa là mapping hoạt động), nhưng một ngoại lệ đã được ném ra:<img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2Fvbt022npm8mhj2fxnhx9.png' alt='Lỗi NullPointerException trong Lambda'>Lý do là `requestEvent.getPathParameters()` bị `null`, trong khi chúng ta mong đợi nó chứa tham số "id":```java@Overridepublic APIGatewayProxyResponseEvent handleRequest(APIGatewayProxyRequestEvent requestEvent, Context context) { String id = requestEvent.getPathParameters().get("id");...```Mặc dù đối tượng `APIGatewayProxyRequestEvent requestEvent` được tạo, nó lại hoàn toàn rỗng (không có thuộc tính nào được đặt: không có tham số đường dẫn, không có chuỗi truy vấn, v.v.). Vậy chuyện gì đã xảy ra? Hàm Lambda hiện có của chúng ta được kích hoạt bởi sự kiện HTTP GET của API Gateway, nhưng AgentCore Gateway không thể biết trigger nào được cấu hình (nó có thể là tất cả các trigger có thể như SQSEvent) và không thể đặt các tham số một cách chính xác.Với mong muốn tái sử dụng hoàn toàn hàm Lambda mà không cần sửa đổi, tôi đã hy vọng có một cấu hình nào đó để truyền vào trong trường hợp này (loại sự kiện là gì và đặt các thuộc tính công cụ ở đâu: dưới dạng HTTP path, query parameters, hay trong HTTP body...). Vì AgentCore hiện đang ở bản preview, tôi sẽ đề xuất loại thay đổi này trước khi ra mắt chính thức. Nhưng hiện tại, thật tiếc là tôi chưa tìm thấy cách nào để tái sử dụng hàm Lambda với một trigger cụ thể làm tham số.Điều tôi tìm thấy là định dạng đầu vào của hàm Lambda, trong đó nói rằng các tham số đầu vào sẽ được truyền vào hàm Lambda dưới dạng cặp khóa-giá trị trong một map/dictionary. Tôi cho rằng vấn đề này có thể chỉ liên quan đến một số runtime Lambda được quản lý nhất định như Java, và không liên quan đến các runtime khác như Python, nơi hàm Lambda đã nhận đối tượng sự kiện kiểu map hoặc dictionary.Vì vậy, tôi đã viết 2 hàm Lambda mới: `GetOrderById2Handler` và `GetOrdersByCreatedDates2Handler` để sử dụng `Map` trong Java làm kiểu sự kiện đầu vào cho Lambda. Các điều chỉnh cần thực hiện cho các hàm Lambda ban đầu là khá nhỏ. Đây là một ví dụ về cách nó hoạt động:```java@Overridepublic APIGatewayProxyResponseEvent handleRequest(Map<String, String> params, Context context) { String id = params.get("id"); .....```Vì vậy, hãy nhớ thay đổi ARN của các hàm Lambda sang các hàm mới này khi bạn tạo AgentCore Gateway Lambda Targets ở bước 6 nhé!Bây giờ, hãy "trò chuyện" lại với agent:```pythonwith mcp_client: tools = get_full_tools_list(mcp_client) print(f"Found the following tools: {[tool.tool_name for tool in tools]}") agent = Agent(model=model, tools=tools) agent("Give me the information about order with id 12345")```Và đây là kết quả!<img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2F8q00quick84qtkmhgl7e.png' alt='Agent phản hồi về đơn hàng theo ID'>Tuyệt vời! Công cụ `getOrderById` đã được xác định chính xác và chúng ta đã nhận được thông tin chính xác về đơn hàng từ đầu ra của hàm Lambda.Hãy tiếp tục hỏi agent những câu hỏi khác như chúng ta đã làm ở phần 2:```pythonagent('Can you list orders created between 1 of August 2025 5am and 5 of August 2025 3am. ''Please use the following date format, for example: 2025-08-02T19:50:55')```Ở đây, chúng ta muốn lấy danh sách đơn hàng được tạo trong một khoảng thời gian cụ thể và gợi ý cho agent về định dạng ngày tháng. Hãy cùng xem kết quả:<img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2Fqcq89m2ebyt12njyw5ss.png' alt='Agent phản hồi về đơn hàng theo ngày tạo'>Lại một lần nữa, công cụ `getOrdersByCreatedDates` đã được nhận diện chính xác và các ngày tháng đã được định dạng đúng (tôi đã kiểm tra trong log). Chúng ta đã nhận được thông tin chính xác về các đơn hàng. Tôi đã giới hạn số lượng đơn hàng trả về là 10 trong câu lệnh SQL để tiết kiệm token đầu ra. Và tôi cũng đã đặt lại timestamp tạo cho đơn hàng thành một giá trị nhất định. Nhưng câu trả lời hoàn toàn chính xác!<img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2Fpt8f9cbrz1ok9q55sirt.png' alt='Kết quả chi tiết đơn hàng theo ngày tạo'>Hãy hỏi agent thêm một câu hỏi nữa:```pythonagent('What is the total value of all these orders together?')```Câu trả lời hoàn toàn chính xác!<img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2Fbgwuquh4ewuflgbpvlc0.png' alt='Agent tính tổng giá trị đơn hàng'>Đúng vậy, agent đã tự động tính tổng giá trị của tất cả 10 đơn hàng (10*350) một cách chính xác.Thử hỏi về một đơn hàng không tồn tại xem agent xử lý thế nào nhé:```pythonagent("Give me the information about order with id 1234589090")```Chúng ta nhận được kết quả chính xác, vì hàm Lambda đã xử lý loại yêu cầu này mà không ném ra lỗi nào:<img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2Fr5rxitmowm2gx7v7vnr3.png' alt='Agent phản hồi về đơn hàng không tồn tại'>Có một điều tôi nhận thấy, tương tự như phần I đã mô tả khi expose Open API làm target cho AgentCore Gateway, đó là trường hợp hàm Lambda gặp lỗi (ví dụ như Nullpointer exception). Trong trường hợp đó, Agent không trả về bất cứ điều gì và tiếp tục "suy nghĩ" trong nhiều phút, buộc tôi phải dừng nó. Chắc chắn vẫn còn rất nhiều điều để thử nghiệm và khám phá. Tôi sẽ dành phần này cho bạn đọc. Nhưng đây là một cái nhìn đầu tiên về chức năng của AgentCore Gateway với hàm Lambda là Target.Cuối cùng, hãy cùng xem xét một số chỉ số CloudWatch hữu ích được cung cấp cho Amazon Bedrock AgentCore Gateway:<h4>Đối với các hoạt động `ListMemory` và `InitializeMcp`:</h4><img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2F23volrpjkdkakkosuvcn.png' alt='CloudWatch Metrics cho ListMemory và InitializeMcp'><h4>Đối với hoạt động `ListToolsMcp`:</h4><img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2Fuffj66ct5q6x6y22dcva.png' alt='CloudWatch Metrics cho ListToolsMcp'><h4>Đối với hoạt động `CallToolMcp`:</h4><img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.amazonaws.com%2Fuploads%2Farticles%2F1wnv1ybjxe2foxa69qej.png' alt='CloudWatch Metrics cho CallToolMcp'>Trong phần này của series bài viết, chúng ta đã cùng nhau tìm hiểu cách "biến hình" hàm Lambda thành một AgentCore Target. Chúng ta đã sử dụng lại các hàm Lambda quen thuộc (`GetOrderByID` và `GetOrdersByCreatedDates`) mà ở phần 2 đã expose qua Open API thông qua API Gateway. Và đặc biệt, chúng ta đã dùng Strands MCP Client để "giao tiếp" với AgentCore Gateway endpoint này. Hy vọng bạn đã có một cái nhìn rõ nét và thú vị về cách "mở khóa" tiềm năng của Lambda với AI Agent!

Chào mừng các bạn đến với thế giới "phù thủy" của lập trình! Bạn đã sẵn sàng "nâng cấp" khả năng code của mình lên một tầm cao mới với sự trợ giúp của AI chưa? Trong bài viết này, chúng ta sẽ cùng nhau khám phá một bộ đôi "siêu phẩm" giúp việc phát triển phần mềm có AI hỗ trợ trở nên dễ dàng và mạnh mẽ hơn bao giờ hết: đó chính là **Gemini CLI** kết hợp với **Docker MCP Toolkit**. Tưởng tượng xem, không cần IDE cồng kềnh, không cần cấu hình phức tạp, bạn vẫn có thể biến terminal của mình thành một "trung tâm điều khiển AI" cực đỉnh! Nghe hấp dẫn đúng không? Cùng tôi "nhảy" vào tìm hiểu ngay thôi! Đầu tiên, phải kể đến **Gemini CLI** – "trợ lý AI" đến từ Google, một tay chơi mã nguồn mở cực kỳ xịn sò, đưa sức mạnh của Gemini 2.5 Pro thẳng vào terminal của bạn. Thôi rồi cái thời phải chuyển tab qua lại giữa trình duyệt và cửa sổ code nữa nhé! Gemini CLI mang lại những lợi ích không tưởng: * Hòa mình vào terminal: Tích hợp trực tiếp vào quy trình làm việc của bạn, không cần rời khỏi màn hình đen huyền bí! * "Bộ nhớ" siêu khủng: Với cửa sổ ngữ cảnh lên đến 1 triệu token, nó có thể "ngấu nghiến" cả những codebase đồ sộ nhất mà không sợ "não cá vàng". * Hỗ trợ công cụ "xịn": Nhờ có Model Context Protocol (MCP), Gemini CLI có thể tương tác với hàng loạt công cụ phát triển khác. Cứ như có cả một đội quân hậu cần vậy! * "Chơi" miễn phí: Cung cấp gói miễn phí với giới hạn sử dụng cực kỳ "hào phóng". Ngại gì không thử? * Thực thi code và quản lý file "thần tốc": Làm việc trực tiếp với code và file của bạn theo thời gian thực. Đúng chuẩn "làm đến đâu, kiểm tra đến đó"! <img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://dev-to-uploads.s3.amazonaws.com/uploads/articles/ijij2ylz22baghy7jflw.png' alt='Giao diện Gemini CLI'> Tiếp theo là **Docker MCP Toolkit** – "phù thủy" biến cách các AI agents tương tác với công cụ phát triển trở nên dễ dàng hơn bao giờ hết! Thay vì phải loay hoay cấu hình từng server MCP một cách thủ công (nghe thôi đã thấy đau đầu rồi!), bạn sẽ có ngay: * Hơn 100+ server MCP: Một kho tàng server được cấu hình sẵn, đủ mọi thể loại trong "danh mục" cho bạn tha hồ lựa chọn! * Cài đặt công cụ chỉ với một cú click: Đúng vậy, "một cú click" thôi là xong, không cần đợi chờ mỏi mòn. * Môi trường chạy an toàn, "đóng hộp": Mọi thứ được gói gọn trong container, đảm bảo an toàn và không gây xung đột. * Kiến trúc Gateway "thân thiện": Giúp việc kết nối từ client trở nên siêu đơn giản. * Quản lý tài khoản "tự động": Tích hợp OAuth và quản lý thông tin đăng nhập, khỏi lo quên mật khẩu hay rắc rối xác thực. <img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://dev-to-uploads.s3.amazonaws.com/uploads/articles/m7k1gr69u2xcuwdc1p6p.png' alt='Cài đặt Docker Desktop và kích hoạt MCP Toolkit'> Vậy tại sao cặp đôi "hoàn hảo" Gemini CLI và Docker MCP Toolkit lại được tôi hết lời ca ngợi như vậy? Đơn giản vì nó mang lại những lợi thế "độc quyền" mà bạn khó lòng tìm thấy ở nơi khác, biến nó thành lựa chọn lý tưởng cho mọi quy trình phát triển hiện đại: * Về hiệu suất (Performance Benefits): Khởi động "chớp nhoáng"; Truy cập hệ thống "tẹt ga"; Tiết kiệm bộ nhớ. * Về sự linh hoạt (Flexibility Advantages): Thích ứng mọi terminal; Nói không với xung đột; Di động mọi nơi; Độc lập cập nhật. * Về hiệu quả làm việc (Workflow Efficiency): Giao diện "tất cả trong một"; Chuyển đổi ngữ cảnh "mượt mà"; Thực thi lệnh trực tiếp; Hòa nhập tự nhiên. Ok, bây giờ là phần mà ai cũng mong chờ: **Hướng dẫn cài đặt "siêu tốc"**! Đừng lo, tôi sẽ chia sẻ từng bước một, dễ như ăn kẹo! <img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://i.imgur.com/setup_guide_icon.png' alt='Hướng dẫn cài đặt từng bước'> **Đầu tiên, chuẩn bị "hành trang" (Prerequisites):** 1. **Cài đặt Docker Desktop:** Nếu bạn chưa có, hãy tải và cài đặt Docker Desktop ngay nhé. Đây là "cửa ngõ" để chúng ta mở khóa sức mạnh của MCP Toolkit. 2. **Kích hoạt Docker MCP Toolkit:** Mở Docker Desktop lên, vào phần cài đặt và tìm mục MCP Toolkit để bật nó. 3. **Kích hoạt ít nhất 1 MCP Server:** Trong MCP Toolkit, bạn cần bật ít nhất một server. Ví dụ như Docker, GitHub, Firecrawl, Kubernetes, hay Slack. Cái này giống như bạn chọn công cụ mà AI sẽ được phép "chọc ghẹo" và làm việc cùng vậy. <img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://dev-to-uploads.s3.amazonaws.com/uploads/articles/g0ucjrflkuwwectzds9k.png' alt='Kích hoạt MCP Servers trong Docker Desktop'> 4. **"Đồ nghề" cần có:** Node.js (phiên bản 18 trở lên); Tài khoản Google; Hiểu biết sơ bộ về GitHub gemini/gemini-cli. **Bước 2: Cài đặt Gemini CLI – Đơn giản như đang giỡn!** Mở terminal lên và gõ lệnh sau: `npm install -g @google/gemini-cli` <img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://i.imgur.com/npm_install_gemini.png' alt='Lệnh cài đặt Gemini CLI qua npm'> **Bước 3: Khởi động và Xác thực – Điểm cuối cùng!** Sau khi cài đặt xong, chỉ cần gõ lệnh "thần chú" này để khởi động Gemini và thực hiện xác thực: `gemini` Nó sẽ dẫn bạn đến trang đăng nhập Google để cấp quyền. Xong xuôi là bạn đã sẵn sàng "hô biến" rồi đó! <img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://dev-to-uploads.s3.amazonaws.com/uploads/articles/ijij2ylz22baghy7jflw.png' alt='Giao diện Gemini CLI sau khi xác thực'> Vậy là xong! Giờ thì bạn đã có một "trợ lý AI" siêu cấp ngay trong terminal của mình rồi. Hãy bắt đầu khám phá và biến những ý tưởng code phức tạp thành hiện thực một cách dễ dàng hơn bao giờ hết nhé!

Lê Lân

15/07/2025

mcp ai tooling

MCPX: Giải cứu AI Agents khỏi 'Quyền hạn quá mức' - Kiểm soát Công cụ trong tầm tay!

Bạn có đang "nghiện" thử nghiệm các tác nhân AI (AI agents) dùng nền tảng MCP không? Nếu có, chắc hẳn bạn đã gặp phải một vấn đề đau đầu: làm sao để quản lý, kiểm soát được mấy "bé" AI này khi chúng "tự do" truy cập và sử dụng các công cụ bên ngoài? Cứ như một đứa trẻ được giao chìa khóa nhà mà không có người lớn trông nom vậy, chúng có thể làm mọi thứ mà bạn không hề hay biết! Đừng lo lắng nữa! Đây chính là lý do vì sao đội ngũ chúng mình đã "khai sinh" ra MCPX – một "cánh cổng" mã nguồn mở cực kỳ thông minh. <img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://i.imgur.com/mcpx_gateway.png' alt='Minh họa cổng kết nối MCPX'> MCPX sẽ giúp bạn "nhìn rõ" mọi hành động của tác nhân AI, đặt ra những "rào chắn an toàn" và "phân quyền" một cách rõ ràng khi chúng sử dụng các công cụ qua MCP. Dù bạn chỉ đang vọc vạch thử nghiệm tại chỗ hay đang xây dựng một hệ thống phức tạp hơn, MCPX đều trao quyền kiểm soát tối đa cho bạn, đảm bảo các tác nhân AI tương tác với hệ sinh thái công cụ của bạn theo đúng ý bạn muốn! Tìm hiểu thêm tại: <a href="https://truyentranh.letranglan.top/api/v1/proxy?url=https://github.com/TheLunarCompany/lunar/tree/main/mcpx">MCPX trên GitHub</a> 🧱 **Vì Sao Chúng Mình Xây Dựng MCPX?** Thực tế, rất nhiều đội nhóm đang tận dụng MCP để các tác nhân AI có thể "gọi" và sử dụng vô tư các công cụ như Slack, GitHub, Gmail hay thậm chí là các API nội bộ "siêu bí mật". Nghe có vẻ tiện lợi, nhưng hậu quả tiềm ẩn thì rõ mồn một: * Mấy tác nhân AI có thể "lỡ tay" truy cập vào những công cụ mà chúng đáng lẽ không được phép đụng vào (ví dụ: gửi mail quan trọng, xóa code trên GitHub). Nghe thôi đã thấy rợn người rồi! * Chẳng có cách nào để bạn nhóm các hành động nhạy cảm lại hay "đặt cổng" kiểm soát cho chúng cả. * Không có hệ thống theo dõi hay ghi lại xem "bé" AI đã dùng công cụ nào, dùng khi nào, dùng bao nhiêu lần. Cứ như đi chợ mà không ghi sổ vậy! * Thiếu hẳn các chính sách quản lý việc lạm dụng hoặc vượt quá quyền hạn. AI nó cứ làm theo lệnh, nhưng không có giới hạn thì dễ thành "phá làng phá xóm" lắm! Tình trạng thiếu kiểm soát này còn được chính OWASP nhắc đến trong danh mục <a href="https://truyentranh.letranglan.top/api/v1/proxy?url=https://owasp.org/www-project-top-10-for-large-language-model-applications/">LLM07 – Excessive Agency</a> (Quyền hạn quá mức), nơi các tác nhân AI có thể làm nhiều hơn những gì chúng nên làm, đôi khi là vô tình, nhưng hậu quả thì khôn lường! <img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://i.imgur.com/uncontrolled_ai_agent.png' alt='Tác nhân AI vượt quá quyền hạn'> MCPX xuất hiện như một vị cứu tinh! Nó cung cấp cho các đội nhóm một cánh cổng đơn giản nhưng siêu an toàn để kết nối tác nhân AI với các công cụ – với khả năng kiểm soát truy cập và theo dõi mọi thứ được tích hợp sẵn! 🔐 **Kiểm Soát Truy Cập Đã Có Sẵn!** Mới đây, chúng mình vừa cho ra mắt một tính năng cực kỳ xịn sò: **Kiểm soát truy cập (Access Controls)**! Tính năng này cho phép bạn nhóm và định nghĩa quyền hạn truy cập các công cụ, xuyên suốt các dịch vụ khác nhau. Tưởng tượng xem, giờ bạn có thể tạo ra các nhóm công cụ như thế này: ``` toolGroups: - name: "writes" services: slack: - "post_message" - "post_reaction" gmail: - "send_email" - "send_attachment" github: "*" # cho phép tất cả các công cụ từ GitHub - name: "reads" services: slack: - "read_messages" - "read_comments" gmail: - "read_email" - "read_attachment" - name: "admin" services: slack: - "create_channel" - "delete_channel" ``` <img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://i.imgur.com/access_control_diagram.png' alt='Sơ đồ kiểm soát truy cập tác nhân AI'> Và từ đó, bạn có thể dễ dàng gán các mô hình LLM, tác nhân AI hoặc người dùng cụ thể vào một hoặc nhiều nhóm này. Điều này mang lại cho bạn khả năng kiểm soát cực kỳ chi tiết và linh hoạt về việc công cụ nào được phép dùng, và dùng khi nào. Thật bá đạo phải không? Tìm hiểu thêm về tính năng này tại: <a href="https://truyentranh.letranglan.top/api/v1/proxy?url=https://www.lunar.dev/post/mcp-gateway-access-controls-defining-permissions-for-llm-agents">Thiết lập Kiểm soát Truy cập cho Tác nhân LLM</a> 🧪 **Bắt Đầu Từ Nhỏ, Mở Rộng Khi Trưởng Thành** Một điểm cộng nữa là MCPX siêu nhẹ và dễ dàng chạy ngay trên máy tính cá nhân của bạn (thử nghiệm cục bộ). Nhưng đừng lo, khi "đế chế AI" của bạn phát triển lớn mạnh hơn, bạn hoàn toàn có thể triển khai MCPX vào môi trường sản xuất, tích hợp với các công cụ giám sát (observability) và áp dụng thêm vô vàn chính sách phức tạp hơn. Cứ như một hạt giống nhỏ bạn gieo, rồi nó sẽ nảy mầm và trở thành một cây cổ thụ khổng lồ vậy! <img src='https://truyentranh.letranglan.top/api/v1/proxy?url=https://i.imgur.com/scale_up_illustration.png' alt='Mở rộng hệ thống từ nhỏ đến lớn'> Chúng mình đã chia sẻ chi tiết về hành trình này tại đây: <a href="https://truyentranh.letranglan.top/api/v1/proxy?url=https://www.lunar.dev/post/mcpx-from-local-experimentation-to-production-grade-infrastructure">Từ Thử nghiệm Cục bộ đến Hạ tầng Cấp sản xuất</a> 🛠️ **Thử Ngay Hoặc Đóng Góp Cùng Chúng Mình!** Còn chần chờ gì nữa? Hãy thử ngay MCPX hoặc đóng góp cho dự án của chúng mình nhé! * **Mã nguồn trên GitHub:** <a href="https://truyentranh.letranglan.top/api/v1/proxy?url=https://github.com/TheLunarCompany/lunar/tree/main/mcpx">Link GitHub MCPX</a> * **Tài liệu chi tiết:** <a href="https://truyentranh.letranglan.top/api/v1/proxy?url=https://docs.lunar.dev">Đọc tài liệu</a> * **Cộng đồng:** Tham gia Discord của chúng mình (link có trong repo GitHub nhé). Chúng mình luôn học hỏi và phát triển cùng cộng đồng, nên rất mong nhận được ý kiến đóng góp hoặc ý tưởng mới lạ từ bạn. Nếu bạn đang sử dụng MCP hoặc đơn giản là muốn khám phá cách đưa các tác nhân AI đến gần hơn với hệ thống của mình một cách an toàn và hiệu quả, thì MCPX chắc chắn là một lớp bảo vệ bạn rất đáng để thử đó!

Lê Lân

13/07/2025