Các thông tin rò rỉ mới nhất cho thấy dù đầu tư lớn vào OpenAI, công ty mẹ của ChatGPT nhưng Microsoft vẫn đang âm thầm nghiên cứu một mô hình ngôn ngữ AI quy mô lớn mới có tên MAI-1, có khả năng “vượt mặt” cả các mô hình tiên tiến nhất của Google hay Meta (công ty mẹ của Facebook).
Reuters dẫn nguồn tin từ The Information cho biết đây là lần đầu tiên Microsoft phát triển một mô hình AI nội bộ ở quy mô lớn như vậy kể từ khi đầu tư hơn 10 tỷ USD vào OpenAI để có quyền tái sử dụng các mô hình AI của công ty khởi nghiệp này. Hiện GPT-4 của OpenAI không chỉ hỗ trợ ChatGPT mà còn cả Microsoft Copilot.
Quá trình phát triển MAI-1 đang được dẫn dắt bởi Mustafa Suleyman, cựu lãnh đạo AI của Google, người gần đây đã giữ chức vụ Giám đốc điều hành của công ty khởi nghiệp AI Inflection trước khi Microsoft mua lại phần lớn nhân viên và tài sản trí tuệ của công ty khởi nghiệp này với giá 650 triệu USD vào tháng 3. Mặc dù MAI-1 có thể được xây dựng dựa trên các kỹ thuật do cựu nhân viên Inflection mang đến, nhưng nó được cho là một mô hình ngôn ngữ lớn (LLM) hoàn toàn mới, điều đã được xác nhận bởi hai nhân viên Microsoft giấu tên nằm trong với dự án.
Mustafa Suleyman, cựu lãnh đạo AI của Google giờ đã về đầu quân cho Microsoft
Với khoảng 500 tỷ tham số, MAI-1 sẽ lớn hơn đáng kể so với các mô hình nguồn mở trước đây của Microsoft (chẳng hạn như Phi-3), đòi hỏi nhiều sức mạnh tính toán và dữ liệu đào tạo hơn. Điều này được cho là đặt MAI-1 vào một đẳng cấp tương tự như GPT-4 của OpenAI, được đồn đại là có hơn 1 nghìn tỷ tham số và cao hơn nhiều so với các mô hình nhỏ hơn như mô hình 70 tỷ tham số của Meta và Mistral.
Sự phát triển của MAI-1 gợi ý một cách tiếp cận kép đối với AI trong Microsoft, tập trung vào cả các mô hình ngôn ngữ chạy cục bộ nhỏ dành cho thiết bị di động và các mô hình hiện đại lớn hơn được hỗ trợ bởi đám mây. Apple được cho là đang khám phá một cách tiếp cận tương tự. Nó cũng nhấn mạnh sự sẵn sàng của công ty trong việc khám phá sự phát triển AI một cách độc lập với OpenAI, công nghệ hiện đang hỗ trợ các tính năng AI sáng tạo đầy tham vọng nhất của Microsoft, bao gồm cả chatbot được tích hợp trong Windows .
Hiện mục đích chính xác của MAI-1 vẫn chưa được xác định (ngay cả trong Microsoft) và việc sử dụng lý tưởng nhất của nó sẽ phụ thuộc vào hiệu suất của mô hình này, theo một trong những nguồn tin của The Information. Để đào tạo mô hình, Microsoft đã phân bổ một cụm lớn máy chủ có GPU Nvidia và tổng hợp dữ liệu đào tạo từ nhiều nguồn khác nhau, bao gồm văn bản được tạo bởi GPT-4 của OpenAI và dữ liệu Internet công cộng.
Tùy thuộc vào tiến độ đạt được trong những tuần tới, The Information báo cáo rằng Microsoft có thể ra mắt bản xem trước của MAI-1 ngay tại hội nghị nhà phát triển Build vào cuối tháng này.
Theo VN review
Quá trình phát triển MAI-1 đang được dẫn dắt bởi Mustafa Suleyman, cựu lãnh đạo AI của Google, người gần đây đã giữ chức vụ Giám đốc điều hành của công ty khởi nghiệp AI Inflection trước khi Microsoft mua lại phần lớn nhân viên và tài sản trí tuệ của công ty khởi nghiệp này với giá 650 triệu USD vào tháng 3. Mặc dù MAI-1 có thể được xây dựng dựa trên các kỹ thuật do cựu nhân viên Inflection mang đến, nhưng nó được cho là một mô hình ngôn ngữ lớn (LLM) hoàn toàn mới, điều đã được xác nhận bởi hai nhân viên Microsoft giấu tên nằm trong với dự án.
Mustafa Suleyman, cựu lãnh đạo AI của Google giờ đã về đầu quân cho Microsoft
Với khoảng 500 tỷ tham số, MAI-1 sẽ lớn hơn đáng kể so với các mô hình nguồn mở trước đây của Microsoft (chẳng hạn như Phi-3), đòi hỏi nhiều sức mạnh tính toán và dữ liệu đào tạo hơn. Điều này được cho là đặt MAI-1 vào một đẳng cấp tương tự như GPT-4 của OpenAI, được đồn đại là có hơn 1 nghìn tỷ tham số và cao hơn nhiều so với các mô hình nhỏ hơn như mô hình 70 tỷ tham số của Meta và Mistral.
Sự phát triển của MAI-1 gợi ý một cách tiếp cận kép đối với AI trong Microsoft, tập trung vào cả các mô hình ngôn ngữ chạy cục bộ nhỏ dành cho thiết bị di động và các mô hình hiện đại lớn hơn được hỗ trợ bởi đám mây. Apple được cho là đang khám phá một cách tiếp cận tương tự. Nó cũng nhấn mạnh sự sẵn sàng của công ty trong việc khám phá sự phát triển AI một cách độc lập với OpenAI, công nghệ hiện đang hỗ trợ các tính năng AI sáng tạo đầy tham vọng nhất của Microsoft, bao gồm cả chatbot được tích hợp trong Windows .
Hiện mục đích chính xác của MAI-1 vẫn chưa được xác định (ngay cả trong Microsoft) và việc sử dụng lý tưởng nhất của nó sẽ phụ thuộc vào hiệu suất của mô hình này, theo một trong những nguồn tin của The Information. Để đào tạo mô hình, Microsoft đã phân bổ một cụm lớn máy chủ có GPU Nvidia và tổng hợp dữ liệu đào tạo từ nhiều nguồn khác nhau, bao gồm văn bản được tạo bởi GPT-4 của OpenAI và dữ liệu Internet công cộng.
Tùy thuộc vào tiến độ đạt được trong những tuần tới, The Information báo cáo rằng Microsoft có thể ra mắt bản xem trước của MAI-1 ngay tại hội nghị nhà phát triển Build vào cuối tháng này.
Theo VN review
