Nền tảng hỗ trợ xây dựng, mở rộng ứng dụng AI tạo sinh an toàn

Hàng chục ngàn khách hàng đã chọn Amazon Bedrock làm nền tảng cho chiến lược AI tạo sinh, vì dịch vụ này cho phép họ tiếp cận với các mô hình nền tảng (FM) hàng đầu từ AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI và Amazon, cùng với các tính năng và năng lực bảo mật cấp doanh nghiệp (DN) họ cần để nhanh chóng xây dựng và triển khai các ứng dụng AI tạo sinh.

Các mô hình mạnh mẽ của Amazon Bedrock được cung cấp dưới dạng dịch vụ được quản lý toàn diện, nhờ đó khách hàng không cần phải lo lắng về hạ tầng hỗ trợ, đảm bảo các ứng dụng của họ có thể vận hành với khả năng triển khai liền mạch, khả năng mở rộng và tối ưu hóa liên tục.

Các tính năng được công bố cho phép khách hàng chạy các mô hình được quản lý toàn diện của riêng họ trên Amazon Bedrock, giúp đơn giản hóa việc triển khai mô hình tốt nhất cho phương án sử dụng của họ, dễ dàng áp dụng các biện pháp bảo vệ cho các ứng dụng AI tạo sinh và cung cấp cho khách hàng nhiều lựa chọn mô hình hơn.

Tính năng Custom Model Import mới giúp các tổ chức đưa các mô hình tùy chỉnh riêng lên nền tảng

Với tính năng Amazon Bedrock Custom Model Import, giờ đây các tổ chức có thể nhập và truy cập các mô hình tùy chỉnh của họ dưới dạng giao diện lập trình ứng dụng (API) được quản lý hoàn toàn trong Amazon Bedrock, mang lại lựa chọn dễ dàng khi xây dựng các ứng dụng AI tạo sinh.

Chỉ với vài lần bấm chuột, khách hàng có thể lấy các mô hình mà họ đã tùy chỉnh trên Amazon SageMaker hoặc các công cụ khác và dễ dàng thêm chúng vào Amazon Bedrock. Sau được xác thực tự động, khách hàng có thể truy cập liền mạch mô hình này, giống như bất kỳ mô hình nào khác trên Amazon Bedrock, hưởng tất cả các lợi ích - bao gồm khả năng mở rộng liền mạch và khả năng bảo vệ mạnh mẽ các ứng dụng, tuân thủ các nguyên tắc AI có trách nhiệm, khả năng mở rộng cơ sở kiến thức của mô hình bằng kỹ thuật RAG, dễ dàng tạo các tác tử (agent) để hoàn thành các tác vụ nhiều bước và tinh chỉnh để tiếp tục dạy và điều chỉnh các mô hình - mà không cần quản lý cơ sở hạ tầng hỗ trợ.

Với những tính năng mới này, AWS giúp các tổ chức dễ dàng lựa chọn tổ hợp các mô hình Amazon Bedrock và các mô hình tùy chỉnh của riêng mình chỉ qua một API. Hiện nay, Amazon Bedrock Custom Model Import được cung cấp dưới dạng bản xem trước (preview) và hỗ trợ ba kiến trúc mô hình mở phổ biến nhất, Flan-T5, Llama và Mistral và sẽ được tiếp tục phát triển hơn nữa trong tương lai.

Tính năng Model Evaluation giúp khách hàng đánh giá, so sánh và lựa chọn mô hình tốt nhất cho ứng dụng của họ

Với số lượng mô hình hàng đầu lớn nhất thị trường, Amazon Bedrock giúp các tổ chức đáp ứng mọi yêu cầu về giá, hiệu năng hoặc năng lực và cho phép họ chạy riêng các mô hình này hoặc kết hợp với các mô hình khác.

Hiện đã được cung cấp tại mọi thị trường, tính năng Model Evaluation là cách nhanh nhất để các tổ chức phân tích và so sánh các mô hình trên Amazon Bedrock, rút thời gian đánh giá các mô hình từ hàng tuần xuống chỉ còn vài giờ để có thể tăng tốc quá trình đưa các ứng dụng và trải nghiệm mới ra thị trường.

Tính năng Guardrails cho Amazon Bedrock loại bỏ thông tin cá nhân, nhạy cảm

Trong khi đó, với tính năng Guardrails cho Amazon Bedrock, khách hàng có thể sử dụng công nghệ bảo vệ tốt nhất để dễ dàng loại bỏ thông tin cá nhân và nhạy cảm, các từ tục tĩu, một số từ cụ thể, cũng như chặn nội dung độc hại.

Guardrails là giải pháp duy nhất cung cấp bởi một nhà cung cấp dịch vụ đám mây điện toán hàng đầu, cho phép khách hàng thực hiện các biện pháp bảo vệ tích hợp và tùy chỉnh trong một sản phẩm đơn nhất và có thể tích hợp với tất cả các mô hình ngôn ngữ lớn (LLM) trong Amazon Bedrock cũng như các mô hình tinh chỉnh.

Nhờ cung cấp trải nghiệm người dùng nhất quán và tiêu chuẩn hóa các biện pháp kiểm soát an toàn và quyền riêng tư trên các ứng dụng AI tạo sinh, tính năng Guardrails for Amazon Bedrock giúp khách hàng có thể đổi mới sáng tạo một nhanh chóng và an toàn.

Bổ sung Amazon Titan Text Embeddings V2, phát hành rộng rãi Titan Image Generator và các mô hình mới nhất từ Cohere và Meta

Các mô hình Amazon Titan được AWS tạo riêng cho Amazon Bedrock và được huấn luyện trước trên các bộ dữ liệu lớn và đa dạng cho nhiều trường hợp sử dụng khác nhau, có sẵn tính năng sử dụng AI có trách nhiệm. Ngày nay, Amazon Bedrock tiếp tục phát triển nhóm mô hình Amazon Titan, mang đến cho khách hàng nhiều lựa chọn và sự linh hoạt hơn nữa.

Mô hình Amazon Titan Text Embeddings V2, được tối ưu hóa để làm việc với các phương án sử dụng RAG, rất phù hợp các loại tác vụ đa dạng như truy xuất thông tin, chatbot hỏi đáp và cá nhân hóa đề xuất. Để bổ sung dữ liệu cho các kết quả phản hồi của FM, nhiều tổ chức sử dụng RAG, một kỹ thuật tùy chỉnh mô hình phổ biến trong đó FM kết nối với một nguồn kiến thức mà nó có thể tham khảo để mở rộng kết quả phản hồi. Tuy nhiên, các tác vụ này có thể thâm dụng năng lực tính toán và lưu trữ.

Mô hình Amazon Titan Text Embeddings V2 mới, sẽ ra mắt vào tuần tới, giúp giảm chi phí lưu trữ và tính toán và gia tăng độ chính xác. Mô hình đạt được kết quả này bằng cách cho phép khách hàng sử dụng embeddings một cách linh hoạt, giúp giảm tới 4 lần dung lượng lưu trữ tổng thể, giảm đáng kể chi phí vận hành, đồng thời duy trì độ chính xác 97% cho các trường hợp sử dụng RAG, vượt trội so với các mô hình hàng đầu khác.

Hiện đã được phát hành rộng rãi ra thị trường, mô hình Amazon Titan Image Generator giúp khách hàng trong các ngành quảng cáo, thương mại điện tử, truyền thông và giải trí tạo ra hình ảnh với chất lượng studio hoặc nâng cao và chỉnh sửa hình ảnh hiện có, với chi phí thấp, thông qua các yêu cầu bằng ngôn ngữ tự nhiên.

Mô hình nền tảng Meta Llama 3 cũng đã được công bố có sẵn trên Amazon Bedrock và sắp tới là các mô hình Command R và Command R+ từ Cohere. Mô hình Llama 3 được thiết kế để các nhà phát triển, nhà nghiên cứu và DN xây dựng, thử nghiệm và mở rộng quy mô một cách có trách nhiệm các ý tưởng AI tạo sinh.

Các mô hình Command R và Command R+ của Cohere là những mô hình FM hiện đại, cho phép khách hàng xây dựng các ứng dụng AI tạo sinh cấp doanh nghiệp với năng lực RAG tiên tiến, hỗ trợ 10 ngôn ngữ khác nhau, nhằm tăng cường các hoạt động kinh doanh toàn cầu của họ.

Sử dụng Amazon Bedrock để thúc đẩy đổi mới sáng tạo

Các tổ chức trong tất cả các ngành, từ các công ty khởi nghiệp phát triển nhanh nhất thế giới đến các DN và tổ chức chính phủ có yêu cầu bảo mật cao nhất, đều đang sử dụng Amazon Bedrock để thúc đẩy đổi mới sáng tạo, tăng năng suất và tạo ra trải nghiệm mới cho người dùng cuối.

Sàn giao dịch chứng khoán New York (NYSE) đang phát huy các mô hình nền tảng (FM) đa dạng và tính năng AI tạo sinh tiên tiến của Amazon Bedrock cho một số phương án sử dụng, chẳng hạn xử lý hàng ngàn trang văn bản quy định pháp lý để tìm nội dung mong muốn bằng ngôn ngữ dễ hiểu.

Ryanair, hãng hàng không lớn nhất châu Âu, đang sử dụng Amazon Bedrock để giúp phi hành đoàn trả lời ngay lập tức các câu hỏi về các quy định cụ thể của quốc gia hoặc trích xuất tóm tắt từ sách hướng dẫn, để trợ giúp quá trình vận chuyển hành khách. Netsmart, công ty công nghệ chuyên thiết kế, xây dựng và cung cấp hồ sơ sức khỏe điện tử (EHR) cho các cơ sở y tế cộng đồng, đang nỗ lực cải thiện chất lượng tài liệu lâm sàng cho các cơ sở khám chữa bệnh.

Mục tiêu của công ty là giảm tới 50% thời gian quản lý hồ sơ sức khỏe của các cá nhân bằng công cụ tự động hóa ứng dụng AI tạo sinh được xây dựng trên Amazon Bedrock. Nhờ đó, khách hàng của Netsmart đẩy nhanh quá trình nộp đơn yêu cầu bảo hiểm cho bệnh nhân, đồng thời cải thiện dịch vụ chăm sóc bệnh nhân.

TS. Swami Sivasubramanian, Phó Chủ tịch bộ phận AI và dữ liệu tại AWS cho biết: “Amazon Bedrock đang tăng trưởng mạnh mẽ, khi hàng chục ngàn tổ chức ở mọi quy mô và trong mọi ngành nghề đang lựa chọn dịch vụ này làm nền tảng cho chiến lược AI tạo sinh của mình, vì họ có thể sử dụng dịch vụ này để đưa kết quả thử nghiệm vào sản xuất nhanh chóng và dễ dàng hơn bất cứ công cụ nào khác"./.