Apple chce upakować LLM do swoich urządzeń

Apple, znany gigant technologiczny, poszerza granice możliwości sztucznej inteligencji, publikując dwa przełomowe artykuły badawcze. Pierwszy z nich dotyczy rozwiązania problemu związanego z uruchamianiem dużych modeli językowych (LLM) na urządzeniach z ograniczoną pamięcią RAM. Chociaż w artykule nie wymieniono bezpośrednio iPhone’ów i iPadów, wydaje się prawdopodobne, że Apple zastosuje tę technikę we własnych urządzeniach.

Drugi artykuł przedstawia technikę “Human Gaussian Splats”, która umożliwia generowanie realistycznie wyglądających awatarów 3D z pojedynczych nagrań wideo. Ta technologia może znaleźć zastosowanie w tworzeniu awatarów na potrzeby wirtualnych spotkań lub umożliwić konsumentom przymierzanie ubrań przed ich zakupem w sklepach internetowych.

W badaniu nad LLM, naukowcy z Apple odkryli, że można uruchomić modele językowe wymagające do dwukrotnie więcej pamięci RAM, niż jest dostępna, przechowując je w pamięci flash. Udało się to dzięki dwóm technikom: “okienkowaniu” i “pakietowaniu wierszy-kolumn”. Te techniki są kluczowe do optymalizacji modeli LLM, redukując ilość danych transferowanych z pamięci flash oraz umożliwiając odczyt danych w większych i bardziej spójnych blokach.

Innowacja ta może mieć znaczące zastosowanie biznesowe, umożliwiając uruchamianie LLM na mniejszych urządzeniach z ograniczoną pamięcią, co może być szczególnie użyteczne w małych urządzeniach służących do pracy w terenie. Może to również ułatwić Apple wdrożenie sztucznej inteligencji generatywnej na iPhone’ach i iPadach.

Metoda “Human Gaussian Splats” pozwala na generowanie awatarów 3D z krótkich nagrań wideo z pojedynczej kamery, wypełniając przy tym części ciała, które mogły nie zostać w pełni uchwycone na nagraniu. Może to mieć szerokie zastosowanie w różnych branżach, od AR/VR, przez efekty wizualne, aż po produkcję filmową.

Te odkrycia mogą w przyszłości znaleźć zastosowanie w takich produktach Apple, jak Siri, asystent głosowy dostępny na laptopach, tabletach i telefonach. Chociaż Apple jeszcze nie skomentowało oficjalnie tych doniesień, ich prace badawcze w dziedzinie AI generatywnej wskazują na znaczący postęp firmy w tej technologii.

Add a comment

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *