Cập nhật giúp nền tảng Google Cloud AI nhanh hơn và linh hoạt hơn

Google vừa công bố nhiều bản cập nhật cho Nền tảng AI giúp nó nhanh hơn và linh hoạt hơn để chạy khối lượng công việc học máy. Một trong số đó là NVIDIA GPUs AI Platform Prediction cho phép các nhà khoa học dữ liệu phục vụ các mô hình cho các dự đoán trực tuyến trong môi trường không có máy chủ (serverless). Bằng cách đó, các nhà phát triển ứng dụng có thể truy cập AI mà không cần phải hiểu các khung ML và các nhà khoa học dữ liệu không phải quản lý cơ sở hạ tầng phục vụ.

Tuy nhiên, một số mô hình máy học phức tạp đến mức chúng chỉ chạy với độ trễ chấp nhận được trên các máy có nhiều CPU hoặc với các bộ tăng tốc như NVIDIA GPU. Điều này đặc biệt đúng với các mô hình xử lý dữ liệu phi cấu trúc như hình ảnh, video hoặc văn bản.

AI Platform Prediction (dự đoán nền tảng AI) hiện cho phép bạn chọn từ một nhóm các loại Compute Engine để chạy mô hình của mình. Bây giờ bạn có thể thêm GPUs, như NVIDIA T4 để được tối ưu hóa suy luận, độ trễ thấp. Trên hết, bạn vẫn không cần quản lý cơ sở hạ tầng bên dưới vì nền tảng AI của Google Cloud xử lý tất cả các mô hình cung cấp, chia tỷ lệ và phục vụ mô hình của bạn.

Các tính năng mới để hợp lý hóa phát triển mô hình

AI Platform Training cũng cho phép các nhà khoa học dữ liệu chạy tập lệnh đào tạo trên bất kỳ phạm vi phần cứng nào mà không phải quản lý các máy bên dưới. Chúng tôi đã giới thiệu nhiều tính năng để mở rộng các loại mô hình bạn có thể đào tạo:

Custom containers

Khởi chạy bất kỳ Docker container nào trên dịch vụ của chúng tôi, do đó bạn có thể đào tạo một mô hình với bất kỳ ngôn ngữ, khung (framework) hoặc phụ thuộc nào. Điều này đặc biệt hữu ích với các container được xây dựng trên AI Platform Deep Learning Container.

Giải quyết nhiều vấn đề hơn bằng AI

Nền tảng đám mây AI đơn giản hóa các mô hình đào tạo và triển khai, cho phép bạn tập trung vào việc sử dụng AI để giải quyết các vấn đề thách thức nhất của bạn. Với nhiều lựa chọn phần cứng và phần mềm đào tạo suy luận hơn (có thể chọn bất kỳ sự kết hợp nào của CPU, RAM và máy gia tốc), chúng tôi mong muốn được thấy những thách thức bạn sử dụng AI để giải quyết trong tương lai.

Nguồn: Google Cloud Blog