Giới Thiệu Ứng Dụng Chat RAG cho Contoso Trek
Trong hướng dẫn này, bạn sẽ sử dụng Azure AI Foundry SDK để xây dựng một ứng dụng chat cho công ty bán lẻ Contoso Trek, chuyên về đồ cắm trại và quần áo dã ngoại. Ứng dụng này sẽ trả lời các câu hỏi về sản phẩm và dịch vụ của công ty.
Ví dụ, ứng dụng có thể trả lời các câu hỏi như 'Lều nào chống nước tốt nhất?' hoặc 'Túi ngủ nào tốt nhất cho thời tiết lạnh?' Phần hai này sẽ hướng dẫn cách tăng cường ứng dụng chat cơ bản bằng cách thêm Retrieval Augmented Generation (RAG) để căn cứ các câu trả lời trên dữ liệu tùy chỉnh của bạn.
Chuẩn Bị Các Bước Cần Thiết
Để bắt đầu, bạn cần hoàn thành Tutorial: Part 1 - Create resources for building a custom chat application with the Azure AI SDK. Bạn cần tạo một dự án với chỉ mục Azure AI Search được kết nối, cài đặt Azure CLI, Python và các gói cần thiết, cũng như cấu hình các biến môi trường.
Sử dụng cùng một dự án dựa trên hub mà bạn đã tạo ở phần 1.
Dữ Liệu Tạo Mẫu cho Ứng Dụng Chat
Mục tiêu của ứng dụng RAG này là căn cứ các phản hồi của mô hình trên dữ liệu tùy chỉnh của bạn. Bạn sẽ sử dụng một chỉ mục Azure AI Search lưu trữ dữ liệu vectơ hóa từ mô hình nhúng. Chỉ mục tìm kiếm được sử dụng để truy xuất các tài liệu liên quan dựa trên câu hỏi của người dùng.
Nếu bạn đã có chỉ mục tìm kiếm với dữ liệu, bạn có thể bỏ qua bước Get product documents. Nếu không, bạn có thể tạo một bộ dữ liệu mẫu đơn giản để sử dụng trong ứng dụng chat của bạn.
Chỉ Mục Tạo Tìm Kiếm
Chỉ mục tìm kiếm được sử dụng để lưu trữ dữ liệu vectơ hóa từ mô hình nhúng và để truy xuất các tài liệu liên quan dựa trên câu hỏi của người dùng. Tạo tệp `create_search_index.py` trong thư mục chính của bạn. Sao chép và dán mã sau vào tệp `create_search_index.py`.
Sản Phẩm Lấy Tài Liệu
Tiếp theo, bạn sẽ tạo một script để lấy tài liệu sản phẩm từ chỉ mục tìm kiếm. Script này truy vấn chỉ mục tìm kiếm cho các tài liệu phù hợp với câu hỏi của người dùng. Tạo tệp `get_product_documents.py` trong thư mục chính của bạn.
Mẫu Tạo Lời Nhắc để Ánh Xạ Ý Định
Script `get_product_documents.py` sử dụng một mẫu lời nhắc để chuyển đổi cuộc trò chuyện thành một truy vấn tìm kiếm. Mẫu này hướng dẫn cách trích xuất ý định của người dùng từ cuộc trò chuyện. Tạo tệp `intent_mapping.prompty` trong thư mục `assets` của bạn.
Kiểm Tra Script Truy Xuất Tài Liệu Sản Phẩm
Bây giờ bạn đã có cả script và mẫu, hãy chạy script để kiểm tra những tài liệu mà chỉ mục tìm kiếm trả về từ một truy vấn. Chạy lệnh `bash` trong cửa sổ terminal.
“RAG (Retrieval Augmented Generation) sử dụng dữ liệu của bạn với mô hình ngôn ngữ lớn (LLM) để tạo ra các câu trả lời cụ thể cho dữ liệu của bạn.
Microsoft Azure AI
Tài Nguyên Bổ Sung
Khám phá các tài liệu và sự kiện liên quan.
Training Module
Build and Deploy your own AI Copilot - Training
Guided project
Build an AI copilot for Contoso Bike Shop.
Events
Explore Azure AI Foundry.
RAG Phát Triển Mã Tùy Chỉnh
Tiếp theo, bạn sẽ tạo mã tùy chỉnh để thêm khả năng retrieval augmented generation (RAG) vào một ứng dụng chat cơ bản. Tạo một script chat với khả năng RAG trong tệp `chat_with_products.py` trong thư mục chính.
Chat Tạo Mẫu Lời Nhắc Có Cơ Sở
Script `chat_with_products.py` gọi một mẫu lời nhắc để tạo phản hồi cho câu hỏi của người dùng. Mẫu này hướng dẫn cách tạo phản hồi dựa trên câu hỏi của người dùng và các tài liệu đã truy xuất. Tạo tệp `grounded_chat.prompty` trong thư mục `assets` của bạn.
Chạy Script Chat với Khả Năng RAG
Bây giờ bạn đã có cả script và mẫu, hãy chạy script để kiểm tra ứng dụng chat của bạn với khả năng RAG. Chạy lệnh `bash`.
Đo Lường Thêm Nhật Ký Đo Từ Xa
Để bật ghi nhật ký đo từ xa cho dự án của bạn, hãy thêm tài nguyên Application Insights vào dự án của bạn. Cài đặt và sử dụng cờ khi bạn sử dụng script.
Dọn Dẹp Tài Nguyên
Để tránh phát sinh chi phí Azure không cần thiết, bạn nên xóa các tài nguyên bạn đã tạo trong hướng dẫn này nếu chúng không còn cần thiết. Nhưng đừng xóa chúng vội nếu bạn muốn triển khai ứng dụng chat của mình lên Azure trong phần tiếp theo của loạt hướng dẫn này.