Kawasaki, Japan, 8. rujna 2025.
Fujitsu develops generative AI reconstruction technology for optimized and energy-efficient AI models based on Takane LLM
Fujitsu razvija novu tehnologiju rekonstrukcije generativne umjetne inteligencije
Fujitsu je objavio razvoj revolucionarne tehnologije rekonstrukcije generativne umjetne inteligencije, koja će biti ključna komponenta njegove AI usluge Fujitsu Kozuchi. Ova tehnologija, inspirirana sposobnošću ljudskog mozga da se reorganizira i specijalizira, omogućuje stvaranje laganih, energetski učinkovitih i visoko preciznih AI modela iz velikih jezičnih modela poput Fujitsuovog Takane LLM-a. Tehnologija se temelji na dva napretka: kvantizaciji, koja drastično smanjuje veličinu modela, i specijaliziranoj AI destilaciji, metodi koja istovremeno postiže i smanjenje modela i povećanje točnosti.
Primjenom 1-bitne kvantizacije, Fujitsu je uspio smanjiti potrošnju memorije za 94% uz zadržavanje 89% točnosti izvornog modela, što je daleko iznad prosjeka od manje od 20% kod konvencionalnih metoda. To omogućuje pokretanje velikih AI modela koji su prethodno zahtijevali četiri vrhunske grafičke kartice na samo jednoj grafičkoj kartici niže klase. Ovo otvara vrata za implementaciju AI agenata na rubnim uređajima poput pametnih telefona i tvorničkih strojeva, poboljšavajući odziv u stvarnom vremenu i sigurnost podataka. Fujitsu planira ponuditi probna okruženja za ovu tehnologiju od druge polovice fiskalne 2025. godine.