Nowy chip przyszłości
SK hynix i TetraMem ogłosiły zakończenie wspólnego projektu technologicznego, skupionego na analogowym układzie scalonym (SoC) do przetwarzania w pamięci. Ich prace pokazują, w jaki sposób pamięć może przejąć część obciążenia obliczeniowego, a nie tylko służyć do przechowywania danych. Prototyp wykorzystuje przetwarzanie w pamięci oparte na memrystorach. Dzięki przetwarzaniu danych w miejscu, w którym przechowywane są elemnty modeli sztucznej inteligencji, architektura ta ogranicza konieczność wielokrotnego przesyłania informacji między pamięcią a procesorami.
W ramach wspólnego projektu połączono analogową platformę obliczeniową firmy TetraMem z doświadczeniem firmy SK hynix w zakresie zaawansowanych technologii pamięciowych. Firmy zintegrowały również najnowsze urządzenia pamięciowe, projektowanie obwodów, architekturę sztucznej inteligencji, oprogramowanie oraz optymalizację systemu w ramach jednej platformy półprzewodnikowej.
Podejście to ma na celu rozwiązanie jednego z największych wyzwań stojących przed współczesnym sprzętem do sztucznej inteligencji. W miarę jak modele AI rozrastają się z miliardów do bilionów parametrów, przepływ danych stał się głównym źródłem zużycia energii, opóźnień i wytwarzania ciepła w systemach obliczeniowych. Przynajmniej częściowe zmniejszenie zużycia energii w przesyłaniu danych w tym układzie jest na wagę złota.
Zmiany technologiczne
Tradycyjne układy AI nieustannie przesyłają dane między jednostkami obliczeniowymi a pamięcią, co pochłania zarówno czas, jak i energię. Analogowe przetwarzanie w pamięci zmienia ten przebieg pracy, wykonując obliczenia macierzowe bezpośrednio w macierzy pamięci, co ogranicza zbędne transfery danych.
Rosnące obciążenia związane ze sztuczną inteligencją zwiększyły presję na producentów chipów, by poprawiali efektywność energetyczną bez utraty wydajności. Jednym z możliwych rozwiązań okazało się przetwarzanie zorientowane na pamięć, ponieważ przesyłanie danych często zużywa więcej energii niż same obliczenia. Projekt SK hynix i TetraMem ma być czymś więcej niż tradycyjną produkcją pamięci w kierunku zaawansowanych architektur obliczeniowych. Według tych firm prace wykraczają już poza weryfikację koncepcji analogowego przetwarzania w pamięci, polegając na zaprezentowaniu praktycznego systemu AI na chipie, który łączy w sobie wiele warstw inżynierii sprzętowej i programowej.
