Koxia uwalnia AISAQ jako oprogramowanie typu open source w celu zmniejszenia potrzeb DRAM w systemach AI

Koxia Corporation, światowy lider w Memory Solutions, ogłosiła dziś wersję open source swojej nowej technologii ANNS z all-in-in-in-in-in-handel z produktem (AISAQ). Nowatorski algorytm wyszukiwania „przybliżonego najbliższego sąsiedniego” (ANNS) zoptymalizowany dla SSDS, oprogramowanie Koxia AISAQ zapewnia skalowalną wydajność do generowania usunięcia (RAG) bez umieszczenia danych indeksu w DRAM – i zamiast tego wyszukiwania bezpośrednio na SSDS.

Generatyczne systemy AI wymagają znaczących zasobów obliczeniowych, pamięci i pamięci. Chociaż mogą one napędzać transformacyjne przełom w różnych branżach, ich wdrożenie często wiąże się z wysokimi kosztami. RAG jest krytyczną fazą AI, która udoskonalała duże modele językowe (LLM) z danymi specyficznymi dla firmy lub aplikacji.

Centralnym elementem RAG jest baza danych wektorowych, która gromadzi i przekształca określone dane w wektory funkcji w bazie danych. Rag wykorzystuje również algorytm ANNS, który identyfikuje wektory, które poprawiają model oparty na podobieństwie wektorów nagromadzonych i docelowych. Aby Rag był skuteczny, musi gwałtownie odzyskać informacje najbardziej istotne dla zapytania. Tradycyjnie algorytmy ANNS są rozmieszczane w DRAM, aby osiągnąć szybką wydajność wymaganą do tych wyszukiwań.

Technologia Koxia AISAQ zapewnia skalowalne i wydajne rozwiązanie ANNS dla miliardów zestawów danych z nieistotnym użyciem pamięci i możliwościami szybkiego przełączania indeksu.

Kluczowe korzyści z technologii Koxia AISAQ:

• Umożliwia duże bazy danych na działanie bez polegania na ograniczonych zasobach DRAM, zwiększając wydajność systemów RAG.
• Eliminuje potrzebę ładowania danych indeksu do DRAM, umożliwiając natychmiastowe uruchomienie bazy danych wektorów. Obsługuje to bezproblemowe przełączanie między bazami danych specyficznych dla użytkownika lub specyficzne dla aplikacji na tym samym serwerze w celu wydajnego świadczenia usług RAG.
• Zoptymalizowane pod kątem systemów chmurowych poprzez przechowywanie indeksów w zdezagregowanym pamięci do udostępniania wielu serwerów. To podejście dynamicznie dostosowuje wydajność wyszukiwania bazy danych wektorowych dla określonych użytkowników lub aplikacji i ułatwia szybką migrację instancji wyszukiwania między serwerami fizycznymi.

Koxia demonstruje swoje zaangażowanie w rozwój sztucznej inteligencji, wnosząc wkład swojej innowacyjnej technologii Koxia AISAQ w społeczności jako systemu typu open source.

Kliknij link do wydania open source Koxia Aisaq: github.com/kioxiaamerica/aisaq-diskann