Trung Quốc ra chip quang học đột phá trong huấn luyện AI
LightGen, chip quang học đầu tiên thế giới cho AI do Trung Quốc sản xuất, có khả năng chạy các mô hình AI tạo sinh quy mô lớn.
Minh họa về chip LightGen. Ảnh: China Daily
Nghiên cứu được LightGen công bố trên Science ngày 19/12, giới thiệu bước đột phá trong lĩnh vực chip điện toán hiệu năng cao, được chọn là bài báo nổi bật trên tạp chí khoa học nổi tiếng này. Chip do Đại học Giao thông Thượng Hải và Đại học Thanh Hoa phát triển, là mẫu vi xử lý “hoàn toàn quang học có khả năng chạy các mô hình AI tạo sinh quy mô lớn, cung cấp sức mạnh lớn trong việc giải quyết nhu cầu tính toán và năng lượng khổng lồ”.
“Lần đầu tiên, một chip điện toán hoàn toàn quang học được phát triển để hỗ trợ các mô hình AI tạo sinh ngữ nghĩa và hình ảnh quy mô lớn”, PGS Chen Yitong, đại diện nhóm nghiên cứu, nói với China Daily.
AI tạo sinh ngày càng ứng dụng rộng rãi các tình huống thực tế phức tạp, chẳng hạn tạo hình ảnh từ văn bản trong vài giây hay tạo video trong tích tắc. Tuy nhiên, khi các mô hình này ngày càng lớn mạnh và tinh vi, nhu cầu về sức mạnh tính toán và hiệu quả năng lượng trở nên cấp thiết. Trong kỷ nguyên hậu Định luật Moore, nỗ lực nghiên cứu toàn cầu đang chuyển hướng sang những lĩnh vực chip điện toán thế hệ tiếp theo như điện toán quang học.
Chip quang học được đánh giá vượt trội trong tăng tốc tác vụ chuyên biệt, nhưng chưa đủ khả năng hỗ trợ các mô hình tạo sinh quy mô lớn với công nghệ tiên tiến. Thách thức nằm ở việc kiến trúc bên trong chúng. Điện toán quang học liên quan đến xử lý thông tin bằng ánh sáng thay vì các electron bên trong bóng bán dẫn. Ánh sáng vốn dĩ có tốc độ cao và khả năng xử lý song song, khiến nó trở thành một hướng đi đầy hứa hẹn để khắc phục “nút thắt” về tính toán và năng lượng, nhưng việc áp dụng điện toán quang học vào AI rất phức tạp do quy mô lớn và biến đổi trên nhiều chiều.
Theo Yitong, LightGen đạt “bước nhảy vọt” về hiệu năng bằng cách vượt qua ba nút thắt quan trọng: tích hợp hơn hai triệu nơ-ron quang tử trên một chip duy nhất; thực hiện chuyển đổi các chiều hoàn toàn bằng quang học; và phát triển thuật toán huấn luyện cho các mô hình tạo sinh quang học không dựa vào dữ liệu thực tế.
“Mỗi một trong ba đột phá này đều đã được coi là đáng kể”, Yitong nhấn mạnh. “LightGen đạt cả ba cùng một lúc, cho phép triển khai hoàn toàn bằng quang học từ đầu đến cuối cho tác vụ tạo sinh quy mô lớn”.
Chuyên gia này giải thích thêm, LightGen không đơn thuần là sử dụng các hệ thống điện tử để hỗ trợ quang học trong việc tạo ra dữ liệu. Thay vào đó, nó đạt cấp độ cao hơn khi tạo thành vòng lặp hoàn chỉnh gồm “đầu vào – hiểu – thao tác ngữ nghĩa – tạo ra” trên một chip quang học. Sau khi hình ảnh được đưa vào chip, hệ thống có thể trích xuất và biểu diễn thông tin ngữ nghĩa, tạo dữ liệu đa phương tiện mới dưới sự kiểm soát ngữ nghĩa, cuối cùng giúp ánh sáng có thể “hiểu” và “nhận thức” ngữ nghĩa một cách hiệu quả.
Về sức mạnh, LightGen đạt tốc độ tính toán 3,57×10^4 TOPS (mỗi TOPS tương đương 1.000 tỷ phép tính mỗi giây) và hiệu suất năng lượng 6,64×10^2 TOPS mỗi watt, vượt xa chip điện tử dẫn đầu như Nvidia A100. Thông qua loạt thí nghiệm, nhóm đã chứng minh LightGen có thể thực hiện tạo ngữ nghĩa hình ảnh độ phân giải cao, tạo hình 3D, tạo video độ nét cao và điều khiển ngữ nghĩa cũng như hỗ trợ nhiều tác vụ tạo sinh quy mô lớn khác.
Trong các bài kiểm tra hiệu năng, LightGen tuân thủ tiêu chuẩn tính toán nghiêm ngặt, khi đạt được chất lượng tạo ảnh tương đương với các mạng nơ-ron hàng đầu như Stable Diffusion và NeRF, đồng thời đo lường theo thời gian thực hiện và mức tiêu thụ năng lượng. Các thử nghiệm cũng cho thấy, ngay cả khi sử dụng thiết bị đầu vào tương đối lỗi thời, LightGen vẫn cải thiện hiệu quả tính toán và năng lượng đến hai bậc so với chip kỹ thuật số hàng đầu. Với thiết bị tiên tiến, về mặt lý thuyết, LightGen có thể đạt sự cải thiện sức mạnh tính toán tới 7 bậc và hiệu quả năng lượng đến 8 bậc.
“LightGen đang mở ra con đường mới để thúc đẩy AI tạo sinh với tốc độ và hiệu quả cao hơn, mở ra hướng đi mới trong nghiên cứu về điện toán thông minh tạo sinh tốc độ cao và tiết kiệm năng lượng”, Yitong nói thêm.
Bảo Lâm (theo China Daily, Xinhua, Science)
Nguồn vnexpress