Chip mới sử dụng AI để giảm 50% lượng điện năng tiêu thụ của các mô hình ngôn ngữ lớn
bởi Steve Lundeberg, Đại học bang Oregon
Ramin Javadi. Tín dụng: Karl Maasdam
Các nhà nghiên cứu của Khoa Kỹ thuật, Đại học bang Oregon đã phát triển một loại chip hiệu quả hơn như một giải pháp giải quyết lượng điện năng khổng lồ mà các ứng dụng trí tuệ nhân tạo mô hình ngôn ngữ lớn như Gemini và GPT-4 tiêu thụ.
"Chúng tôi đã thiết kế và chế tạo một loại chip mới tiêu thụ một nửa năng lượng so với các thiết kế truyền thống", nghiên cứu sinh tiến sĩ Ramin Javadi, người cùng với Tejasvi Anand, phó giáo sư kỹ thuật điện, đã trình bày công nghệ này tại Hội nghị mạch tích hợp tùy chỉnh IEEE ở Boston, cho biết.
"Vấn đề là năng lượng cần thiết để truyền một bit không giảm theo cùng tốc độ khi nhu cầu về tốc độ dữ liệu tăng lên", Anand, người chỉ đạo Phòng thí nghiệm hệ thống và mạch tín hiệu hỗn hợp tại OSU, cho biết. "Đó là lý do khiến các trung tâm dữ liệu sử dụng quá nhiều điện năng".
Bản thân con chip mới này dựa trên các nguyên lý AI giúp giảm lượng điện sử dụng để xử lý tín hiệu, Javadi cho biết.
"Các mô hình ngôn ngữ lớn cần gửi và nhận lượng dữ liệu khổng lồ qua các liên kết truyền thông có dây, bằng đồng trong các trung tâm dữ liệu và điều đó đòi hỏi rất nhiều năng lượng", ông cho biết. "Một giải pháp là phát triển các chip truyền thông có dây hiệu quả hơn".
Khi dữ liệu được gửi ở tốc độ cao, Javadi giải thích, dữ liệu sẽ bị hỏng ở đầu thu và phải được làm sạch. Hầu hết các hệ thống truyền thông có dây thông thường đều sử dụng bộ cân bằng để thực hiện nhiệm vụ này và bộ cân bằng tương đối ngốn điện.
"Chúng tôi đang sử dụng các nguyên lý AI đó trên chip để khôi phục dữ liệu theo cách thông minh hơn và hiệu quả hơn bằng cách đào tạo bộ phân loại trên chip để nhận dạng và sửa lỗi", Javadi cho biết.
Javadi và Anand đang nghiên cứu phiên bản tiếp theo của con chip, họ hy vọng sẽ mang lại hiệu quả năng lượng hơn nữa.
Thông tin thêm: Bộ thu phát có dây PAM-4 0,055pJ/bit/dB 42Gb/giây với mã hóa và phân loại ký hiệu liên tiếp đến tâm (CSC) cho mức mất mát 26dB trong FinFET 16nm.
Được cung cấp bởi Đại học Tiểu bang Oregon
