Sự Hỗ Trợ Của Generative AI Trong Google Cloud Vertex AI

Sự Hỗ Trợ Của Generative AI Trong Google Cloud Vertex AI

Vertex AI được ra mắt vào năm 2021, để giúp triển khai và phát triển mô hình ML nhanh chóng. Với sự bùng nổ công nghệ AI, Google Cloud đã tích hợp Generative AI vào Vertex AI nhằm khai thác toàn bộ sức mạnh nền tảng machine learning toàn diện của Google. Hãy cùng Cloud Ace tìm hiểu Generative AI đã hỗ trợ như thế nào nhé.

Đó chính là lý do, Google Cloud tích hợp Generative AI vào Vertex AI, giúp doanh nghiệp dễ dàng truy cập, tùy chỉnh và triển khai các foundation models từ một giao diện đơn giản. Google Cloud còn cung cấp nhiều công cụ và automated workflows. Sau khi triển khai, foudation models có thể điều chỉnh quy mô, quản lý và điều hành trong quá trình sản xuất bằng cách sử dụng khả năng Vertex AI’s end-to-end MLOps và fully-managed AI infrastructure.

Model Garden cung cấp môi trường để tìm kiếm, khám phá và tương tác với foundation models của riêng Google, và hàng trăm mô hình open-source, third-party. Người dùng có thể xây dựng các ứng dụng thế hệ tiếp theo với quyền truy cập multimodal models từ Google thông qua vision, dialog, code generation, và code completion.

Google Cloud cam kết cung cấp sự lựa chọn ở mọi cấp độ của AI stack, đó là lý do tại sao Model Garden sẽ bao gồm các mô hình từ cả đối tác open-source và hệ sinh thái đối tác AI của Google Cloud.Với nhiều loại mô hình và kích cỡ có sẵn ở một nơi, khách hàng của chúng tôi sẽ có sự linh hoạt để sử dụng tài nguyên tốt nhất cho nhu cầu kinh doanh của họ.

1. Model Garden_ Khám phá và sử dụng nhiều loại mô hình mới

Generative AI Studio là nơi doanh nghiệp có thể tương tác, điều chỉnh và triển khai foundation models. Generative AI Studio cung cấp nhiều khả năng bao gồm giao diện trò chuyện, thiết kế nhanh, điều chỉnh nhanh và khả năng tinh chỉnh trọng lượng mô hình. Với Generative AI Studio, người dùng có thể triển khai các mô hình mới được điều chỉnh trực tiếp vào ứng dụng hoặc các mô hình sản xuất trên nền tảng ML của Vertex AI.

2.Generative AI Studio_ Dễ dàng điều chỉnh và triển khai foundation models

Sử dụng Foundation Model làm API

Google Cloud cung cấp foundation models để làm API, bao gồm text, dialogue, code generation and completion, image generation, và embeddings. Endpoints được quản lý của Vertex AI giúp dễ dàng xây dựng các khả năng tổng quát vào ứng dụng mà chỉ yêu cầu một vài dòng code, giống như bất kỳ Google Cloud API khác Developer không cần lo về sự phức tạp của việc cung cấp tài nguyên lưu trữ và tính toán hoặc tối ưu hóa mô hình.

Prompt design (Thiết kế lời nhắc)

Generative AI Studio cung cấp giao diện dễ sử dụng cho prompt design. Đây là quá trình tạo thủ công văn bản, lời nhắc và thông báo cho foundation models.Người dùng có thể định cấu hình hệ thống ngoài giao diện trò chuyện.

Ví dụ: kiểm soát độ chính xác và khả năng sáng tạp của các câu trả lời.

Prompt Tuning (Điều chỉnh nhanh chóng)

Prompt Tuning là cách hiệu quả, chi phí thấp để tùy chỉnh foundation models mà không cần đào tạo lại nó. Prompt là cách Google Cloud hướng dẫn mô hình tạo ra output hữu ích, sử dụng ngôn ngữ tự nhiên thay vì ngôn ngữ lập trình.

Ví dụ: nếu người dùng muốn cập nhật mô hình ngôn ngữ PaLM cho thương hiệu của họ, họ có thể chỉ cần tải tài liệu thương hiệu, tweet, thông cáo báo chí và các nội dung khác lên Generative AI Studio.

Fine-tuning (Tinh chỉnh)

Fine-tuning trong Generative AI Studio là quá trình đào tạo thêm một pre-trained model trên dữ liệu mới, dẫn đến thay đổi trọng số của mô hình. Điều này hữu ích cho các trường hợp yêu cầu output có kết quả chuyên biệt. Trong Vertex AI Generative AI Studio, doanh nghiệp có thể tải lên các tập dữ liệu lớn và re-train models bằng cách sử dụng Vertex AI Training. Google Cloud cung cấp khả năng tinh chỉnh mô hình mà không để lộ những thay đổi về trọng số bên ngoài nguyên lý được bảo vệ. Điều này cho phép doanh nghiệp vừa tận dụng sức mạnh của foundation models vừa kiểm soát được dữ liệu.

Tối ưu hóa chi phí

Google Cloud cung cấp optimize model selection (OMS), để xem xét những gì đang được yêu cầu và định tuyến các yêu cầu đó đến mô hình nhỏ nhất có thể đáp ứng một cách hiệu quả. Khi được bật, điều này sẽ được chạy trong background và được gọi dựa trên các điều kiện khác nhau.

Cloud Ace

Google Cloud Managed Service Provider