26 Bài Học Quan Trọng Từ Việc Xây Dựng Hơn 150 AI Agent Trong 9 Tháng

Giới Thiệu

Trong 9 tháng qua, chúng tôi đã xây dựng hơn 150 AI agent theo mô hình “Agent as a Service” (Agent như một dịch vụ). Trong bài viết này, tôi sẽ chia sẻ 26 bài học quan trọng mà chúng tôi đã phải trả giá bằng thời gian và tiền bạc của khách hàng. Hy vọng rằng, bạn sẽ không phải lặp lại những sai lầm này.

Các Bài Học Quan Trọng

1. AI Agent Không Phải Là Nhân Viên Của Bạn

Hiện nay, nhiều người vẫn gọi AI agent là “tự động hóa” hoặc “nhân viên”. Tuy nhiên, agent không phải là cả hai. Sự khác biệt giữa agent và tự động hóa là ở chỗ, mọi bước trong tự động hóa đều được lập trình sẵn. Bạn biết chính xác các bước và trình tự của chúng. Còn sự khác biệt giữa agent và nhân viên là ở chỗ, agent có ít quyền tự chủ hơn nhân viên. Bạn cần nhiều agent hơn so với số lượng nhân viên cần thiết. Agent cần được đào tạo theo hướng dẫn cụ thể để thực hiện một quy trình. Chúng không thể tự học hỏi bằng cách xem SOP (Standard Operating Procedure – Quy trình vận hành chuẩn) và tự tìm tòi.

2. Bắt Đầu Từ Các Quy Trình Được Ghi Chép Rõ Ràng (SOP)

SOP là các quy trình mà nhân viên thực hiện trong một doanh nghiệp. Trong một doanh nghiệp tốt, các quy trình này thường được ghi chép rõ ràng. Bằng cách tìm các quy trình được ghi chép rõ ràng trước, bạn có thể làm cho việc đào tạo một agent trở nên đơn giản hơn đáng kể. Thay vì thu thập dữ liệu thủ công hoặc hỏi khách hàng hàng tá câu hỏi, bạn có thể chỉ cần lấy SOP, và nó có thể có mọi thứ bạn cần để đào tạo agent một cách đáng tin cậy.

3. Chủ Doanh Nghiệp Sẽ Không Tự Xây Dựng Agent

Tôi tin rằng ngay cả khi chúng ta có những agent có thể xây dựng các agent khác từ một prompt duy nhất, chủ doanh nghiệp vẫn sẽ không tự xây dựng agent của riêng họ. Giống như các công cụ no-code đã hứa hẹn về sự kết thúc của các nhà phát triển phần mềm, nhưng thay vào đó chỉ tạo ra một làn sóng các nhà phát triển no-code. Tương tự, các nền tảng và framework agent có thể xây dựng các agent khác sẽ chỉ thúc đẩy nhu cầu về các nhà phát triển AI agent. Khi Open AI và các phòng thí nghiệm khác tiếp tục phát hành các khả năng agent mới, việc khó nhất không phải là xây dựng agent, mà là xác định agent nào cần xây dựng. Đó chính xác là nơi các nhà phát triển agent xuất hiện.

4. Chủ Doanh Nghiệp Không Biết Họ Cần Loại Agent Nào

Khi khách hàng bắt đầu đăng ký dịch vụ, họ thường đến với chúng tôi với một số ý tưởng về những agent mà họ muốn xây dựng. Nhưng trong khoảng 50% trường hợp, đó không phải là những agent giá trị nhất mà chúng tôi có thể xây dựng cho doanh nghiệp đó. Đó là lý do tại sao tư vấn là một phần rất lớn trong dịch vụ của chúng tôi. Để xác định agent nào tốt nhất để xây dựng, chúng tôi thường thích bắt đầu từ hành trình của khách hàng. Chúng tôi yêu cầu khách hàng giúp chúng tôi phác thảo hành trình khách hàng của họ trên Figma, từng bước một. Điều này cho chúng tôi một ý tưởng tuyệt vời về những phần cụ thể nào trong hành trình khách hàng mà chúng tôi có thể tự động hóa. Sau đó, nếu chúng tôi thấy có một cơ hội tiềm năng ở đó, chúng tôi có thể đi sâu hơn vào phần cụ thể đó của quy trình và sau đó có thể phác thảo quy trình đó một mình. Bằng cách này, bạn có thể tìm thấy những cơ hội không chỉ dễ xây dựng hơn mà còn mang lại giá trị đáng kể hơn cho doanh nghiệp đó. Vì vậy, đừng lắng nghe khách hàng của bạn nếu họ có một số ý tưởng về những agent mà họ muốn xây dựng. Hãy sử dụng nó như một phản hồi. Đừng cho rằng đó là ý tưởng tốt nhất có thể tích hợp vào doanh nghiệp của họ.

5. Bạn Không Cần Hơn 20 Agent

Hiện tại, nhiều người có xu hướng xây dựng càng nhiều agent càng tốt. Điều này chỉ làm cho hệ thống của bạn trở nên phức tạp hơn. Bằng cách thêm quá nhiều agent vào một hệ thống duy nhất, bạn chỉ đơn giản là làm cho nó khó bảo trì hơn. Nó ngày càng trở nên phức tạp hơn để gỡ lỗi hệ thống và tìm ra các vấn đề tiềm ẩn. Ngoài ra, nó làm tăng chi phí và thời gian để agent của bạn cung cấp phản hồi. Vì vậy, hãy bắt đầu với càng ít agent càng tốt. Tốt nhất là nên bắt đầu từ một agent nhỏ nhất mà bạn có thể cung cấp cho khách hàng của mình càng nhanh càng tốt. Sau đó, một khi agent này đã được tinh chỉnh hoàn toàn, một khi bạn thực sự có cơ hội triển khai agent này và một khi khách hàng đã kiểm tra nó, thì bạn có thể tiến hành thêm nhiều agent hơn khi cần thiết.

6. Quyết Định Dựa Trên Dữ Liệu, Nhưng Dữ Liệu Kèm Theo Hành Động Mới Mang Lại Kết Quả

Có một câu nói trong khoa học dữ liệu gọi là GIGO, viết tắt của “Garbage In, Garbage Out” (rác vào, rác ra). Điều này vẫn đúng với AI agent. Nếu bạn cung cấp cho agent của mình những đầu vào rác, chúng sẽ tạo ra những đầu ra rác. Tuy nhiên, điều chúng tôi phát hiện ra gần đây là tác động lớn nhất không chỉ đến từ việc thêm dữ liệu vào một agent, mà đến từ việc kết hợp dữ liệu đó với các hành động liên quan. Bằng cách kết hợp kiến thức (ví dụ: cách tạo các chiến dịch marketing hiệu quả trên Facebook) với các hành động (cho phép agent này kiểm soát API marketing của Facebook), bạn có thể đạt được kết quả cao hơn đáng kể so với việc chỉ sử dụng dữ liệu hoặc hành động riêng lẻ. Bằng cách kết hợp kiến thức và dữ liệu, agent không chỉ thực hiện các tác vụ, mà còn có thể cung cấp cho bạn các gợi ý về những gì bạn có thể cải thiện và cách thực hiện quy trình đó tốt nhất. Vì vậy, hãy đảm bảo thu thập cả nguồn bên trong và bên ngoài. Điều này sẽ làm tăng đáng kể hiệu suất của agent của bạn.

7. Kỹ Thuật Prompt Là Một Nghệ Thuật

Kỹ thuật prompt thực sự là một công việc thực tế, mặc dù nhiều công ty vẫn chưa công nhận nó. Khi các mô hình trở nên lớn hơn và thông minh hơn, và đang phát triển để chạy trong 10 phút trở lên, kỹ thuật prompt ngày càng trở nên quan trọng hơn bao giờ hết. Hiện tại, kỹ thuật prompt giống như một nghệ thuật. Bạn phải viết prompt của mình như thể bạn đang viết blog hoặc tiểu luận. Bạn phải suy nghĩ cẩn thận về từng từ bạn đưa vào prompt. Khi các mô hình trở nên thông minh hơn, kỹ thuật prompt sẽ trở nên ngày càng quan trọng hơn.

Dưới đây là một số mẹo để viết prompt hiệu quả:

• Cung cấp ví dụ. Hãy đảm bảo bạn cung cấp đủ ví dụ cho một agent, vì một ví dụ thường có giá trị hơn cả ngàn lời nói.
• Thứ tự rất quan trọng. Thứ tự của các câu hoặc đoạn văn trong prompt của bạn tạo ra một sự khác biệt lớn. Hãy sắp xếp lại prompt để hiệu suất của agent thay đổi từ hoàn toàn không đáng tin cậy thành nhất quán và hợp lý. Đảm bảo rằng các phần quan trọng nhất của prompt của bạn ở cuối hướng dẫn, không phải ở đầu. Bởi vì các mô hình ngôn ngữ lớn nhớ thông tin gần với thông điệp mới nhất tốt hơn.
• Lặp lại và kiểm tra liên tục. Cách duy nhất để xác định xem prompt của bạn có hoạt động hay không là lặp lại và kiểm tra nó. Đừng sửa đổi prompt của bạn mà không kiểm tra xem nó ảnh hưởng đến hiệu suất của agent như thế nào. Hãy chạy agent của bạn thường xuyên nhất có thể và sau đó điều chỉnh prompt cho phù hợp.

8. Tích Hợp Quan Trọng Như Chức Năng

Chúng ta thường có xu hướng tập trung quá mức vào khả năng của agent. Tuy nhiên, tích hợp, nơi agent đang làm việc, thường quan trọng hơn. Bởi vì nếu người dùng của bạn không thuận tiện khi sử dụng agent, thì dù agent của bạn có mạnh mẽ đến đâu, nó vẫn sẽ không thể cung cấp bất kỳ giá trị nào. Vì vậy, hãy đảm bảo rằng bạn tích hợp agent của mình vào chính xác các hệ thống mà nhân viên của bạn sử dụng hàng ngày. Nếu bạn đang xây dựng một agent hỗ trợ khách hàng và khách hàng của bạn hiện đang sử dụng Zendesk, thì agent cũng phải hoạt động trong Zendesk.

9. Độ Tin Cậy Của Agent Đã Được Giải Quyết

Ngày nay, rất nhiều startup đang cố gắng giải quyết độ tin cậy của agent. Nhưng nếu agent không đáng tin cậy, thì đó không phải là vấn đề của agent, mà là vấn đề của nhà phát triển. Jason Leo đã giải quyết vấn đề này vào năm 2023. Ông phát hiện ra rằng bạn có thể sử dụng Pydantic, một thư viện xác thực dữ liệu, để xác thực tất cả các đầu vào và đầu ra của agent. Điều này có nghĩa là nếu bạn thêm tất cả logic xác thực cần thiết, agent sẽ không thể gây ra bất kỳ hậu quả nghiêm trọng nào. Bởi vì nó sẽ bị ngăn chặn bởi nhà phát triển. Vì vậy, hãy kiểm tra video này và cách nó được triển khai trong thư viện Instructor và framework của tôi. Với Pydantic, bạn thậm chí có thể xây dựng agent cho bất kỳ trường hợp sử dụng nào.

10. Công Cụ Là Thành Phần Quan Trọng Nhất

Có ba thành phần quan trọng nhất khi xây dựng AI agent: hướng dẫn, kiến thức và hành động. Khoảng 70% công việc trong công ty chúng tôi là xây dựng các hành động, hay còn gọi là công cụ. Tại sao vậy? Bởi vì công cụ là cách agent cung cấp giá trị. Với chatbot tiêu chuẩn hoặc LLM, giá trị được tạo ra thông qua các phản hồi. Trong khi đó, agent tạo ra giá trị thông qua các hành động. Agent phải thực hiện các tác vụ. Chúng không chỉ nên cho bạn biết những gì bạn cần làm hoặc chỉ đơn giản là cung cấp phản hồi cho truy vấn của bạn. Agent nên thực sự làm điều đó cho bạn. Đó là lý do tại sao hành động là thành phần quan trọng nhất. Nếu bạn biết cách xây dựng và cấu trúc tốt các công cụ của mình, bạn có thể xây dựng agent cho bất kỳ trường hợp sử dụng nào.

11. Không Quá 4-6 Công Cụ Cho Mỗi Agent

Đây là quy tắc của chúng tôi hiện tại. Chúng tôi không thêm nhiều hơn 4-6 công cụ cho mỗi agent, tùy thuộc vào độ phức tạp của chúng. Điều này đã được chứng minh là hoạt động tốt nhất. Tất nhiên, nó phụ thuộc vào độ phức tạp của công cụ của bạn. Với GPT-4o, Claude 3.5 và các mô hình GPT mới nhất, bạn không thể thêm nhiều hơn sáu công cụ. Bởi vì agent bắt đầu ảo giác, bắt đầu nhầm lẫn công cụ nào cần sử dụng hoặc trình tự thích hợp để sử dụng các công cụ này. Nếu agent bắt đầu ảo giác, bạn cần chia agent này thành nhiều agent.

12. Chi Phí Mô Hình Không Quan Trọng

Nếu trường hợp sử dụng của bạn có ý nghĩa, bạn sẽ gần như luôn tạo ra ROI (Return on Investment – Lợi tức đầu tư) to lớn từ việc sử dụng một AI agent so với việc thực hiện quy trình tương tự theo cách thủ công. Nếu bạn chỉ tập trung vào điều đúng đắn, thì bạn không còn phải lo lắng về chi phí. Ví dụ: đối với một agent, quy trình điền bảng câu hỏi đã giảm từ $300 và 3 ngày làm việc thủ công xuống còn $1-2 và khoảng 20 phút.

13. Khách Hàng Không Quan Tâm Bạn Sử Dụng Mô Hình Nào

Nhiều người ngạc nhiên khi biết rằng chúng tôi chưa bao giờ sử dụng mô hình nguồn mở nào trong công ty của mình. Các doanh nghiệp không thực sự quan tâm bạn sử dụng mô hình nào, miễn là trường hợp sử dụng của bạn có ý nghĩa. Nếu bạn có thể cung cấp cho họ giá trị mà không vi phạm chính sách khách hàng của họ, thì họ không thực sự quan tâm về mô hình nào cung cấp giá trị đó. Trong trường hợp khách hàng của chúng tôi có các chính sách bảo mật dữ liệu nghiêm ngặt với khách hàng của họ, chúng tôi chỉ cần sử dụng Azure OpenAI, về cơ bản chạy các mô hình OpenAI trong phiên bản Azure riêng tư của bạn mà không cần chia sẻ dữ liệu với chính OpenAI. OpenAI vẫn là nhà cung cấp được lựa chọn của chúng tôi vì trải nghiệm nhà phát triển của họ, giúp chúng tôi tiết kiệm đáng kể thời gian phát triển agent vì sự tiện lợi khi làm việc với API của họ, giúp đơn giản hóa đáng kể quá trình tạo agent.

14. Đừng Tự Động Hóa Cho Đến Khi Giá Trị Được Thiết Lập

Mặc dù chúng tôi chủ yếu làm việc với các doanh nghiệp hiện có, đôi khi chúng tôi gặp những người muốn tự động hóa một doanh nghiệp thậm chí chưa tồn tại. Họ muốn xây dựng một quy trình không phải từ việc thiết lập quy trình này theo cách thủ công trước, sau đó tự động hóa nó, mà từ việc đoán rằng tự động hóa quy trình này sẽ tạo ra nhiều giá trị hơn. Điều này cực kỳ rủi ro. Bởi vì bạn thậm chí không biết liệu quy trình có hoạt động hay không, và nó sẽ đòi hỏi một khoản đầu tư đáng kể. Chi phí phát triển mới là điều bạn cần lo lắng, chứ không phải chi phí mô hình. Bạn cần thiết lập giá trị cho một quy trình nhất định trước. Có lẽ bạn thậm chí có thể thuê ai đó trên một nền tảng như Upwork và đảm bảo rằng quy trình thực sự hoạt động. Sau đó, khi bạn xác định cách quy trình nên được thực hiện và nó thực sự cung cấp giá trị, bạn nên tự động hóa nó bằng AI agent.

15. Đừng Nghĩ Về Các Trường Hợp Sử Dụng, Hãy Nghĩ Về ROI

Công thức chúng tôi sử dụng để tính ROI như sau: (Tỷ lệ * Số giờ – Chi phí vận hành) / Chi phí phát triển. Tỷ lệ * Số giờ có nghĩa là tỷ lệ của một nhân viên hiện đang thực hiện quy trình này nhân với tổng số giờ mà tất cả các nhân viên đó dành để thực hiện quy trình đó. Chi phí vận hành thường chỉ là chi phí mô hình và chi phí máy chủ. Chi phí phát triển là số tiền bạn bỏ ra để phát triển giải pháp của mình.

Ví dụ: một nhân viên thực hiện một quy trình với giá $50 mỗi giờ và họ dành khoảng 10 giờ mỗi tuần cho quy trình này, và chi phí phát triển cho quy trình này là $5.000. ROI sau một năm sẽ là khoảng 5,6. Điều đó có nghĩa là khách hàng đã kiếm được gấp 5 lần lợi tức đầu tư sau một năm chúng tôi xây dựng. Vì vậy, chỉ tập trung vào những gì cung cấp nhiều giá trị nhất cho doanh nghiệp.

16. Phát Triển Agent Là Một Quá Trình Lặp Đi Lặp Lại

Trong các cuộc thi khoa học dữ liệu như Kaggle, nhóm đã thử nghiệm số lượng tham số lớn nhất và các kiến trúc mô hình khác nhau sẽ chiến thắng. Điều tương tự cũng áp dụng cho AI agent. Bạn cần thử nhiều kiến trúc khác nhau nhất có thể và sau đó so sánh chúng song song để xem cái nào chiến thắng. Chỉ sau khi bạn đã có một số kinh nghiệm xây dựng agent, bạn mới bắt đầu thấy kiến trúc nào có ý nghĩa cho một giải pháp nhất định. Vì vậy, nếu bạn đang bối rối hoặc agent của bạn hoạt động kém, hãy đảm bảo xây dựng một vài biến thể và kiểm tra cái nào hoạt động tốt hơn.

17. Sử Dụng Phương Pháp Chia Để Trị

Chia để trị về cơ bản là chia một vấn đề phức tạp thành các nhiệm vụ có thể quản lý được. Chúng tôi sử dụng phương pháp này cho hầu hết mọi agent. Bạn cần có khả năng cung cấp các giải pháp theo từng giai đoạn. Thay vì xây dựng toàn bộ giải pháp và sau đó nhận ra rằng đây không phải là những gì khách hàng muốn, hãy chia nó thành các thành phần có thể quản lý được và cung cấp từng thành phần một. Tìm một agent trong toàn bộ hệ thống có thể hoạt động một mình, xây dựng agent đó trước và chỉ cung cấp agent đó. Chỉ sau khi khách hàng xác nhận rằng agent này hoạt động, hãy tiến hành xây dựng toàn bộ hệ thống. Điều tương tự cũng nên áp dụng cho những gì bạn tự động hóa trong một doanh nghiệp nhất định. Ví dụ: chúng tôi thích tự động hóa theo bộ phận trước. Chúng tôi thích tập trung vào một bộ phận nhất định trước. Chúng tôi thích cố gắng tự động hóa càng nhiều giải pháp trong một bộ phận nhất định càng tốt trước khi chuyển sang bộ phận tiếp theo. Điều này cho phép chúng tôi sau đó có thể kết hợp một số agent trong bộ phận đó lại với nhau, điều này sẽ làm cho hệ thống của chúng tôi mạnh mẽ hơn đáng kể.

18. Evals Rất Quan Trọng, Nhưng Chỉ Đối Với Các Công Ty Lớn

Eval là các chỉ số đánh giá mà bạn thiết lập cho agent của mình để theo dõi KPI và hiệu suất của chúng theo thời gian. Eval có thể cực kỳ hiệu quả để loại bỏ hoàn toàn đối thủ cạnh tranh của bạn. Bởi vì chúng sẽ cho phép bạn liên tục cải thiện các giải pháp của mình theo thời gian. Nếu bạn đã thiết lập eval chính xác, điều đó có nghĩa là bất cứ khi nào bạn cung cấp một giải pháp tương tự cho một khách hàng mới, tất cả các giải pháp trước đây của bạn cũng sẽ tốt hơn. Ngoài ra, khi các mô hình AI đang hướng tới khả năng tự cải thiện, eval sẽ cho phép agent của bạn có thể tự cải thiện theo thời gian. Tuy nhiên, các doanh nghiệp vừa và nhỏ (SMB) có thể không cần eval. Bởi vì các doanh nghiệp vừa và nhỏ không có lưu lượng truy cập yêu cầu nhất quán này. Nó không thực sự quan trọng đối với họ cho dù giải pháp có tệ hơn 5% hay không. Bởi vì eval thường chỉ cung cấp kết quả gia tăng. Bạn có thể đạt được hiệu suất 80% mà không cần eval. 20% cuối cùng là nơi eval xuất hiện. Vì vậy, đối với SMB, điều đó không quan trọng bằng. Bởi vì lưu lượng truy cập yêu cầu nhỏ hơn nhiều. Họ có thể chỉ sử dụng agent marketing một hoặc một vài lần mỗi ngày, vì vậy họ có thể dễ dàng thoát khỏi tình trạng không có eval khi bắt đầu. Nhưng nếu bạn đang làm việc với một khách hàng là một doanh nghiệp rất lớn, thì chắc chắn nên thiết lập eval ngay từ đầu.

19. Có Hai Loại Agent Bạn Có Thể Tạo

Loại thứ nhất là agent, loại thứ hai là workflow. Đúng vậy, có workflow. Có workflow agentic. Trước đây, tôi chưa thực sự coi loại agent này. Tôi chỉ tập trung vào việc xây dựng agent. Nhưng đôi khi có những quy trình mà các bước được xác định trước và trình tự chính xác của các bước cần được tuân thủ mọi lúc. Tuy nhiên, bản thân các bước có thể là agentic. Ví dụ: nếu bạn đang thực hiện quy trình nghiên cứu khách hàng tiềm năng, đôi khi bạn cần gửi ba prompt đến Google và bản thân các prompt là như nhau, ngoại trừ có thể tên công ty. Agent phải thực hiện tìm kiếm trên các trang web giống nhau cho các công ty này. Trong trường hợp này, bạn thực sự có thể kết hợp workflow và tự động hóa tiêu chuẩn với AI agent. Bạn có thể có một workflow trong đó mỗi bước là agentic. Không phải toàn bộ hệ thống là agentic, mà là các bước cụ thể trong quy trình đó yêu cầu khả năng agentic. Crei là một nền tảng workflow nơi bạn gửi các tác vụ cho một agent. Bạn chỉ cần mã hóa chúng và sau đó bạn gửi chúng từng cái một. Framework của tôi là hoàn toàn agentic, có nghĩa là bạn không có cách nào để thậm chí gửi các tác vụ. Chúng tôi đã gặp một vài khách hàng (một tỷ lệ rất nhỏ), muốn thực hiện quy trình theo cùng một cách chính xác. Các bước là agentic. Vì điều này, chúng tôi sẽ sớm phát hành một tính năng workflow.

20. Agent Cần Phải Thích Ứng Được Với Phản Hồi

Mục đích của việc xây dựng agent là chúng cần có khả năng tương tác với môi trường của chúng. Nếu agent của bạn tương tác với môi trường, nhưng chúng không thể nhận được phản hồi nhất quán từ môi trường đó, thì chúng sẽ bị bối rối. Khi xây dựng agent, hãy đảm bảo rằng bạn không chỉ thêm các công cụ cho các agent này cho phép chúng sửa đổi môi trường của chúng. Hãy đảm bảo thêm các công cụ cho phép chúng phân tích kết quả của chính chúng và cách tác động của các hành động trước đó thực sự ảnh hưởng đến môi trường của chúng. Ví dụ: đừng chỉ xây dựng một agent chỉ có thể cập nhật cơ sở dữ liệu. Ngay cả khi yêu cầu của bạn không chỉ định điều này, hãy đảm bảo thêm một công cụ cho agent này, sau đó có thể đọc các bản ghi cơ sở dữ liệu để đảm bảo rằng tác vụ đã được hoàn thành thành công.

21. Đừng Xây Dựng Xung Quanh Những Hạn Chế

Đây là một trong những sai lầm lớn nhất mà bạn có thể mắc phải. Bạn cần xây dựng agent của mình với một lập trường rằng các mô hình này sẽ ngày càng trở nên tốt hơn. Ví dụ: vào năm 2023, chúng tôi đã xây dựng một hệ thống khá phức tạp để tránh giới hạn token ngữ cảnh. Nhưng sau đó, OpenAI đã phát hành mô hình ngữ cảnh 128k. Hai tháng sau, hệ thống này trở nên lỗi thời. Điều tương tự có thể xảy ra trong tương lai. Ví dụ: hiện tại, OpenAI đang phát hành các agent như Operator Agent, Deep Research Agent. Trước đây, họ cũng đã phát hành RAG (Retrieval-Augmented Generation), là tìm kiếm tệp. Bằng cách phát hành các khả năng agentic này, họ thực sự đã làm cho rất nhiều startup trở nên lỗi thời. Ví dụ: trước đây có rất nhiều ứng dụng trò chuyện với PDF. Mặc dù chúng vẫn tạo ra thu nhập đáng kể khi bắt đầu, nhưng bây giờ hầu như không còn ứng dụng nào trong số chúng nữa. Vì vậy, hãy đảm bảo rằng bạn không xây dựng những trường hợp sử dụng chung chung rõ ràng này. Tôi tin rằng trường hợp sử dụng tiếp theo có thể là phát triển phần mềm. Vì vậy, đừng dành một năm để xây dựng một agent phát triển phần mềm nếu đó là một trường hợp sử dụng rõ ràng mà OpenAI có thể tự phát triển.

22. Triển Khai Agent Khó Hơn Nhiều So Với Xây Dựng Chúng

Trong công ty agent của chúng tôi, chúng tôi bắt đầu từ việc xây dựng agent bằng framework của tôi, mà chúng tôi vẫn sử dụng cho đến ngày nay. Nhưng chúng tôi nhận ra ngay sau đó là chúng tôi sẽ mất 2-3 ngày để xây dựng một agent, nhưng sau đó chúng tôi sẽ mất thêm 3 ngày nữa để triển khai nó, về cơ bản có nghĩa là tích hợp nó vào quy trình của khách hàng của chúng tôi. Đó là lý do tại sao chúng tôi quyết định xây dựng nền tảng của riêng mình. Nền tảng của chúng tôi cung cấp đủ sự linh hoạt để thực sự làm điều đó trong sản xuất. Nhiều nền tảng khác được xây dựng trước cả khi agent ra đời. Nhiều người chỉ đơn giản là nhảy vào xu hướng này và thậm chí không xây dựng thứ mà họ sẽ sử dụng cho chính mình.

23. Các Dự Án Waterfall Không Hoạt Động

Trong công ty của chúng tôi, chúng tôi chỉ làm việc trên cơ sở đăng ký. Bởi vì các dự án agentic quá linh hoạt. Bạn không thể xác định phạm vi các dự án agentic trong 3 tháng. Bởi vì chúng liên tục phát triển. Bất cứ khi nào chúng tôi bắt đầu làm việc với khách hàng của mình, chúng tôi thường tìm thấy nhiều cơ hội hơn mà chúng tôi chưa thấy trước. Vì vậy, bạn có thể bắt đầu từ phí một lần, đó luôn là một cách khá tốt để bắt đầu. Nhưng sau đó, hãy đảm bảo rằng bạn chuyển sang một dịch vụ linh hoạt hơn, nơi bạn không chỉ đóng vai trò là một nhóm gia công phần mềm cho khách hàng của mình, mà bạn còn làm việc như đối tác của họ. Bởi vì mục tiêu với phát triển agent luôn không chỉ là xây dựng một agent, mà là tự động hóa một doanh nghiệp. Đó là cung cấp giá trị cho khách hàng của bạn. Vì vậy, hãy đảm bảo rằng bạn có một thỏa thuận với khách hàng của mình, nơi bạn thực sự có đủ không gian để làm như vậy.

24. Bao Gồm Con Người Trong Vòng Lặp Đối Với Các Agent Quan Trọng

Đôi khi, có một số agent mà sai số cho phép quá thấp đến mức nếu agent thực hiện một hành động do nhầm lẫn, bạn sẽ không thể đảo ngược kết quả. Đối với những agent này, bạn cần bao gồm một con người trong vòng lặp trước. Ví dụ: bạn không muốn chi $100.000 cho một chiến dịch marketing kém lý tưởng. Đó là lý do tại sao chúng tôi đã bao gồm bước con người trong vòng lặp này, nơi khách hàng thực sự có thể xem xét các chiến dịch marketing trên Facebook trong Notion trước. Sau này, khi agent được tinh chỉnh hoàn toàn và khi khách hàng liên tục phê duyệt mọi chiến dịch marketing, bạn có thể chỉ cần loại bỏ bước này.

25. Năm 2025 Là Năm Của Các AI Agent Dọc

Các AI agent dọc về cơ bản là các agent chuyên biệt cho một trường hợp sử dụng cụ thể. Giống như trong B2B SaaS, các agent dọc chỉ phục vụ một loại khách hàng doanh nghiệp rất cụ thể. Các nguyên tắc tương tự áp dụng với B2B SaaS. Dễ dàng mở rộng quy mô hơn nhiều. Bạn có thể tính giá cao hơn đáng kể. Bởi vì bạn biết khách hàng của mình từ trong ra ngoài. Bạn thực sự có thể tinh chỉnh agent này để giải quyết một vấn đề rất cụ thể và rất có giá trị cho một doanh nghiệp cụ thể. Điều này làm cho chúng trở nên dễ dàng như vậy khi bắt đầu. Tuy nhiên, đừng bắt đầu từ các agent dọc ngay lập tức. Bạn hoàn toàn có thể xây dựng một vài agent ngang cho cùng một ngành mà bạn định mở rộng quy mô. Sau khi bạn đã xây dựng một vài trong số các agent này, bạn sẽ bắt đầu nhận thấy những điểm tương đồng giữa chúng. Những điểm tương đồng này là những gì bạn sau đó có thể biến thành một AI agent dọc có thể được sản xuất và áp dụng cho nhiều doanh nghiệp khác nhau trong ngành này.

26. Agent Không Thay Thế Con Người, Chúng Giúp Các Doanh Nghiệp Mở Rộng Quy Mô

Chúng tôi chưa bao giờ thấy một chủ doanh nghiệp nào ngay lập tức bắt đầu sa thải nhân viên sau khi doanh nghiệp của họ trở nên hiệu quả hơn bằng cách tự động hóa. Chúng tôi chỉ đơn giản là giúp các chủ doanh nghiệp suy nghĩ lớn hơn. Họ suy nghĩ lớn hơn, họ mở rộng quy mô nhanh hơn, họ đạt được doanh thu cao hơn, họ có nhiều lợi nhuận hơn và quan trọng nhất, nhân viên của họ bây giờ có thể tập trung vào những việc và nhiệm vụ cấp cao hơn mà họ thực sự yêu thích. Đừng lo lắng về việc agent thay thế con người. Nhân loại sẽ luôn tìm thấy những điều tốt hơn để làm, điều này cuối cùng sẽ dẫn chúng ta đến một kỷ nguyên mới của sự sung túc và thịnh vượng.

Cảm ơn bạn đã theo dõi!