DeepSeek otwiera kod DeepInfer, silnika do uruchamiania modeli
Przejdź do treści i przykładów
DeepSeek udostępniła kod programu, który stoi za tym, jak szybko jej modele odpowiadają. To deklaracja producenta o przeznaczeniu narzędzia, a nie wynik niezależnego testu. Zwykły użytkownik czatu nie zobaczy żadnej zmiany od jutra.
Model AI to przepis. Oprogramowanie do uruchamiania przyjmuje Twoje pytanie, liczy i oddaje odpowiedź. To kuchnia, w której ten przepis się gotuje, i właśnie nią jest DeepInfer. DeepSeek zapowiada, że służy do optymalizacji tego procesu: ma podnosić efektywność przetwarzania i skracać czas potrzebny na wygenerowanie odpowiedzi.
Skoro kod jest otwarty, deweloperzy mogą go dostosować do własnych zastosowań. Dla osoby z marketingu czy biura to na razie wiadomość z drugiej ręki. Skorzystają przede wszystkim ci, którzy sami uruchamiają modele na własnej infrastrukturze. Koszt i szybkość działania modeli to ten sam temat, o którym piszemy przy okazji tanich modeli do zadań masowych. Podobny kierunek otwierania technologii widać też u europejskiego Mistrala z zapowiedzianymi wagami. Nawet polskie modele, jak basal-omni, trzeba gdzieś uruchamiać, więc sposób ich uruchamiania ma znaczenie.
Licencję, wymagania sprzętowe i ewentualne wyniki wydajności sprawdzisz w dokumentacji i ogłoszeniu DeepSeek. Jeśli nie ma tam liczb, hasło o szybszym działaniu pozostaje zapowiedzią, a nie dowodem.
Otwórz ogłoszenie DeepSeek o DeepInfer, znajdź w nim licencję i sprawdź, czy dopuszcza użycie komercyjne. To zajmie 10 minut i od razu będziesz wiedzieć, czy ten kod w ogóle może Cię dotyczyć.
Na podstawie: Olhar Digital
Darmowy webinar na żywo z Janem Gajosem · w najbliższą środę o 19:00
Czytasz o AI, a w pracy dalej robisz wszystko ręcznie? Znam to.
Sam tak robiłem. Na webinarze pokazuję na swoim ekranie, jak oddać AI powtarzalne zadania: maile, proste automatyzacje, asystenta do pracy. Bez programowania i bez teorii. 90 minut, a na końcu pytasz, o co chcesz.
Link do pokoju przyjdzie mailem. Zapisując się, zgadzasz się na wiadomości e-mail zgodnie z polityką prywatności. Wolisz zacząć od lektury? Zobacz e-booki Jana Gajosa