Xây Dựng Các AI Agent Thông Minh Hơn với Azure AI Agent Service

Giới thiệu về Azure AI Agent Service

Chào mọi người! Hy vọng tất cả các bạn đều khỏe mạnh. Hôm nay, chúng ta sẽ cùng nhau khám phá cách xây dựng các AI Agent thông minh hơn với Azure AI Agent Service. Đây là một chủ đề rất thú vị và hữu ích trong bối cảnh AI đang phát triển mạnh mẽ như hiện nay.

Tổng quan về AI Agent

Trước khi đi sâu vào chi tiết về Azure AI Agent Service, chúng ta hãy cùng nhau tìm hiểu về khái niệm AI Agent. AI Agent là một phần mềm thông minh kết hợp các mô hình AI tạo sinh với dữ liệu theo ngữ cảnh và có khả năng tự động hóa các tác vụ dựa trên đầu vào của người dùng và các yếu tố môi trường. Chúng được sử dụng để tự động hóa các tác vụ, quản lý quy trình kinh doanh và điều phối khối lượng công việc.

Có hai loại kịch bản AI Agent chính:

Kịch bản đơn tác nhân (Single Agent): Trong kịch bản này, một AI Agent duy nhất được sử dụng để thực hiện một tác vụ cụ thể. Ví dụ, một AI Agent có thể được tạo ra để hỗ trợ nhân viên với các yêu cầu bồi thường chi phí.
Kịch bản đa tác nhân (Multi-Agent): Trong kịch bản này, nhiều AI Agent tương tác với nhau để thực hiện một tác vụ phức tạp. Ví dụ, một AI Agent có thể xử lý việc đặt vé máy bay và khách sạn, và tự động gửi hóa đơn cho một AI Agent khác để xử lý chi phí.

Các lựa chọn để phát triển AI Agent

Để phát triển AI Agent, chúng ta có nhiều lựa chọn khác nhau, mỗi lựa chọn có những ưu điểm và hạn chế riêng. Dưới đây là một số lựa chọn phổ biến:

Azure AI Agent Service: Đây là một dịch vụ được quản lý trong Azure, cung cấp một framework để xây dựng, quản lý và triển khai AI Agent.
OpenAI Assistant API: API này cung cấp một tập hợp các tính năng giới hạn so với Azure AI Agent Service, nhưng nó cung cấp sự linh hoạt cao hơn và nhiều lựa chọn mô hình hơn.
Semantic Kernel: Đây là một bộ công cụ phát triển mã nguồn mở nhẹ, được sử dụng để xây dựng AI Agent và điều phối các giải pháp đa tác nhân.
AutoGen: Đây là một framework mã nguồn mở để phát triển AI Agent một cách nhanh chóng, đặc biệt hữu ích cho nghiên cứu và thử nghiệm.
Microsoft 365 Agent SDK: SDK này cho phép các nhà phát triển tạo ra các AI Agent tự lưu trữ, có thể được triển khai trên nhiều kênh khác nhau.
Microsoft Copilot Studio: Với Copilot Studio, chúng ta có thể tạo ra các AI Agent trong một nền tảng phát triển low-code, cung cấp một giao diện trực quan, lý tưởng cho người dùng không có nhiều kinh nghiệm lập trình.

Khi lựa chọn một phương pháp phát triển AI Agent, chúng ta nên xem xét các yếu tố như yêu cầu ứng dụng, kỹ năng của đội ngũ phát triển và mức độ kiểm soát mong muốn.

Azure AI Agent Service: Giải pháp toàn diện cho AI Agent

Azure AI Agent Service là một dịch vụ mạnh mẽ, cung cấp một framework toàn diện để xây dựng, quản lý và triển khai AI Agent. Nó cung cấp cả trải nghiệm phát triển trực quan thông qua cổng Azure AI Foundry và phương pháp tiếp cận dựa trên mã thông qua Azure Foundry SDK.

Dưới đây là các thành phần chính của Azure AI Agent Service:

Mô hình (Model): Các mô hình AI tạo sinh cung cấp sức mạnh cho lý luận và tạo phản hồi của AI Agent. Azure AI Agent Service hỗ trợ các mô hình OpenAI và nhiều mô hình khác từ danh mục mô hình Azure AI Foundry.
Kiến thức (Knowledge): Các nguồn dữ liệu cung cấp nền tảng ngữ cảnh cho các prompt của người dùng. Các nguồn dữ liệu này có thể bao gồm Microsoft Bing Search, Azure AI Search Index hoặc dữ liệu và tài liệu tùy chỉnh.
Tích hợp (Integration): Các công cụ cho phép AI Agent tương tác với các hệ thống và dịch vụ khác. Các công cụ này có thể bao gồm Bing Search Grounding Tools, Code Interpreter Tool, Azure Functions và Azure Logic Apps.

XEM THÊM: Huấn luyện LLM: Không cần nhiều dữ liệu cho tác vụ lý luận

Các tính năng và khả năng của Azure AI Agent Service

Azure AI Agent Service cung cấp một loạt các tính năng và khả năng mạnh mẽ, giúp đơn giản hóa quá trình phát triển và triển khai AI Agent. Dưới đây là một số tính năng chính:

Tích hợp mô hình nâng cao: Azure AI Agent Service tận dụng các mô hình AI mới nhất từ Microsoft, OpenAI, Meta và Mistral.
Tăng cường kiến thức: AI Agent có thể được tăng cường kiến thức từ Bing, dữ liệu riêng tư (SharePoint, Fabric, Azure AI Search, Azure Blob) và dữ liệu được cấp phép.
Tự động hóa: Azure AI Agent Service hỗ trợ tự động hóa thông qua Azure Logic Apps, Azure Functions, OpenAPI 3.0 và Code Interpreter.
Trải nghiệm phát triển: Dịch vụ cung cấp trải nghiệm phát triển trực quan và dựa trên mã thông qua Azure AI Foundry.
Kiểm soát dữ liệu: Người dùng có thể mang theo bộ nhớ và VPN riêng để tăng cường kiểm soát dữ liệu.
Quản lý truy cập an toàn: Azure AI Agent Service hỗ trợ tự động hóa thay mặt cho người dùng (on-behalf-of automation) để quản lý truy cập an toàn.
Khả năng quan sát nâng cao: Dịch vụ hỗ trợ khả năng quan sát AI Agent nâng cao thông qua đánh giá dựa trên Open Telemetry.
Phát triển và tự động hóa nhanh chóng: Azure AI Agent Service được thiết kế để cho phép phát triển AI Agent nhanh chóng, an toàn và đáng tin cậy.
Linh hoạt mô hình rộng: AI Agent có thể xử lý và kết hợp nhiều loại dữ liệu hiệu quả hơn.
Khả năng mở rộng: Azure AI Agent Service có thể mở rộng quy mô để đáp ứng nhu cầu của tổ chức.
Bảo mật và tuân thủ: Dịch vụ cung cấp các tính năng bảo mật và tuân thủ tích hợp.

Tích hợp với các dịch vụ Azure khác

Azure AI Agent Service tích hợp chặt chẽ với các dịch vụ Azure khác, cho phép chúng ta xây dựng các giải pháp AI Agent mạnh mẽ và linh hoạt. Dưới đây là một số tích hợp quan trọng:

Azure Logic Apps: Với hơn 1.400 trình kết nối Azure Logic Apps, chúng ta có thể mở rộng khả năng của AI Agent để tự động hóa các quy trình nghiệp vụ phức tạp mà không cần viết nhiều mã.
Azure Functions: AI Agent có thể thực thi các hành động thực tế bằng cách sử dụng Azure Functions, cho phép chúng ta gọi API, gửi yêu cầu không đồng bộ và xử lý các quy trình dựa trên sự kiện.
Code Interpreter: Với Code Interpreter, AI Agent có thể viết và thực thi mã Python, cho phép chúng ta thực hiện phân tích dữ liệu nâng cao, tạo báo cáo và trực quan hóa dữ liệu.
Llama Stack: Azure AI Agent Service tăng cường AI Agent Llama Stack bằng cách cung cấp các công cụ cấp doanh nghiệp dựa trên đám mây có thể mở rộng, đảm bảo khả năng tương thích liền mạch trong giao thức AI Agent được sử dụng trong SDK Llama Stack.

Kết nối với các nguồn kiến thức

Để AI Agent có thể cung cấp thông tin chính xác và hữu ích, chúng ta cần kết nối chúng với các nguồn kiến thức phù hợp. Azure AI Agent Service hỗ trợ nhiều nguồn kiến thức khác nhau, bao gồm:

Microsoft Bing: Cung cấp kết quả tìm kiếm web theo thời gian thực để có kiến thức động.
Azure AI Search: Cung cấp khả năng lập chỉ mục và truy xuất dữ liệu doanh nghiệp có cấu trúc và phi cấu trúc.
SharePoint và Microsoft Fabric: Cung cấp quyền truy cập vào các tài liệu và báo cáo kinh doanh.
Azure Blob Storage: Lưu trữ dữ liệu phi cấu trúc.
Dữ liệu độc quyền được cấp phép: Cho phép chúng ta kết nối với các nguồn dữ liệu độc quyền.

XEM THÊM: Chế độ 'Nghiên cứu Sâu' mới do o3 hỗ trợ của OpenAI cho thấy sức mạnh của kỷ nguyên AI Agent

Ví dụ, chúng ta có thể sử dụng Bing Search để cung cấp cho AI Agent thông tin cập nhật mới nhất về tin tức, thể thao hoặc thị trường. Chúng ta cũng có thể kết nối AI Agent với SharePoint để cho phép chúng trả lời các câu hỏi về chính sách của công ty, lợi ích và hướng dẫn nghỉ phép.

Quản lý trạng thái hội thoại và lọc nội dung

Azure AI Agent Service cung cấp các tính năng mạnh mẽ để quản lý trạng thái hội thoại và lọc nội dung, đảm bảo rằng AI Agent tương tác với người dùng một cách an toàn và hiệu quả.

Quản lý trạng thái hội thoại tự động: Dịch vụ loại bỏ nhu cầu xây dựng các hệ thống lịch sử hội thoại tùy chỉnh, duy trì các trao đổi trước đó để cung cấp các phản hồi được cá nhân hóa phù hợp.
Lọc nội dung: Azure AI Agent Service đảm bảo các tương tác AI an toàn và có đạo đức bằng cách kết hợp các biện pháp bảo vệ bảo mật và lọc nội dung.

Với khả năng quản lý trạng thái hội thoại, AI Agent có thể nhớ các cuộc trò chuyện trước đó, cho phép theo dõi liền mạch và cải thiện trải nghiệm người dùng. Tính năng lọc nội dung giúp phát hiện và chặn nội dung có hại, bảo vệ người dùng khỏi các đầu ra không phù hợp, thiên vị hoặc độc hại.

Demo: Xây dựng AI Agent với Azure AI Agent Service SDK

Để minh họa cách xây dựng AI Agent với Azure AI Agent Service, chúng ta sẽ cùng nhau xem một demo sử dụng Azure AI Agent Service SDK.

Trong demo này, chúng ta sẽ tạo ra một AI Agent có thể trả lời các câu hỏi về thời tiết hiện tại ở một thành phố cụ thể. Để làm điều này, chúng ta sẽ sử dụng Bing Tool để lấy dữ liệu thời tiết theo thời gian thực.

Đầu tiên, chúng ta cần tạo một tài nguyên Bing Search trong Azure portal. Lưu ý rằng để tạo tài nguyên Bing Search, chúng ta cần có đăng ký Pay-As-You-Go hoặc đăng ký Enterprise.

Sau khi chúng ta đã tạo tài nguyên Bing Search, chúng ta có thể lấy khóa API của nó và sử dụng khóa này để kết nối AI Agent của chúng ta với Bing Search.

Tiếp theo, chúng ta sẽ sử dụng Azure AI Agent Service SDK để tạo AI Agent. Chúng ta sẽ cung cấp cho AI Agent một tên, mô tả và hướng dẫn. Chúng ta cũng sẽ chỉ định rằng chúng ta muốn sử dụng Bing Tool.

Sau khi AI Agent đã được tạo, chúng ta có thể tạo một thread để giao tiếp với AI Agent. Chúng ta có thể gửi tin nhắn đến AI Agent và nhận phản hồi của AI Agent.

XEM THÊM: Facebook AI Research (FAIR): Nghiên cứu và phát triển AI

Ví dụ, chúng ta có thể gửi tin nhắn “Thời tiết ở Mumbai hôm nay thế nào?” AI Agent sẽ sử dụng Bing Tool để lấy dữ liệu thời tiết theo thời gian thực và trả lời tin nhắn bằng dữ liệu thời tiết.

Chúng ta cũng có thể tạo ra một hàm calculator trong Python để đánh giá một biểu thức và tuần tự hóa dữ liệu ở định dạng JSON. Sau đó, chúng ta sẽ tạo một đối tượng tool set và thêm cả Bing Tool và hàm calculator của chúng ta. Cuối cùng, chúng ta hướng dẫn AI Agent của mình quyết định tool nào sẽ được kích hoạt dựa trên đầu vào. Nếu đầu vào là một chuỗi như “Thời tiết ở London hôm nay thế nào?”, AI Agent sẽ sử dụng Bing Tool để lấy dữ liệu thời tiết trực tiếp. Tuy nhiên, nếu chúng ta cung cấp một biểu thức, AI Agent sẽ chỉ cần thực thi đánh giá biểu thức mà không cần truy cập Bing.

Demo này cho thấy cách chúng ta có thể sử dụng Azure AI Agent Service SDK để xây dựng các AI Agent mạnh mẽ và linh hoạt có thể tự động hóa các tác vụ và cung cấp thông tin hữu ích.

Bảo mật và tuân thủ

Azure AI Agent Service cung cấp một loạt các tính năng bảo mật và tuân thủ, đảm bảo rằng chúng ta có thể sử dụng dịch vụ một cách an toàn và tuân thủ các quy định hiện hành.

Một trong những tính năng bảo mật quan trọng nhất của Azure AI Agent Service là khả năng mang theo bộ nhớ riêng. Điều này cho phép chúng ta lưu trữ dữ liệu của mình trong một vị trí an toàn và kiểm soát và đảm bảo rằng không ai khác có thể truy cập vào dữ liệu của chúng ta.

Azure AI Agent Service cũng cung cấp hỗ trợ cho Mạng ảo (VPN). Điều này cho phép chúng ta kết nối AI Agent của mình với mạng riêng của chúng ta một cách an toàn.

Ngoài ra, Azure AI Agent Service hỗ trợ xác thực “thay mặt cho” (on-behalf-of authentication). Điều này có nghĩa là AI Agent của chúng ta sẽ chạy thay mặt cho người dùng, sử dụng quyền của người dùng đó.

Kết luận

Azure AI Agent Service là một dịch vụ mạnh mẽ và linh hoạt, cung cấp một framework toàn diện để xây dựng, quản lý và triển khai AI Agent. Với các tính năng và khả năng mạnh mẽ, Azure AI Agent Service giúp đơn giản hóa quá trình phát triển và triển khai AI Agent, cho phép chúng ta tự động hóa các tác vụ, cải thiện năng suất và cung cấp các dịch vụ khách hàng tốt hơn.

Hy vọng bài viết này đã cung cấp cho bạn một cái nhìn tổng quan về Azure AI Agent Service và cách chúng ta có thể sử dụng nó để xây dựng các AI Agent thông minh hơn. Nếu bạn có bất kỳ câu hỏi nào, vui lòng đặt câu hỏi. Cảm ơn bạn đã theo dõi!

Bạn có thấy hữu ích không? Hãy cho chúng tôi +1 nhé