Odkryj potęgę lokalnych modeli AI! Uruchom je na swoim laptopie lub serwerze.
Chcesz wykorzystać potencjał ChatGPT i innych dużych modeli językowych (LLM) w swoim biznesie lub prywatnie, ale martwisz się o bezpieczeństwo danych? A może chcesz użyć modelu LLM do analizy prywatnych danych, które wolisz nie ujawniać (np. wyciągów z Twojego konta bankowego)? Załóżmy, że chcesz lepiej zarządzać swoim budżetem domowym, więc pobierasz wszystkie swoje transakcje i chcesz je kategoryzować. Oczywiście, można to zrobić całkowicie ręcznie, ale jest to czasochłonne i żmudne – jest spora szansa, że zrezygnujesz już w pierwszym miesiącu. Co wtedy? Można to zautomatyzować, ale zrozumiałe, że nie chciałbyś wysyłać takich danych do ChatGPT, prawda?
Kurs praktyczny LLM! Zapisz się teraz na listę chętnych i zyskaj realne umiejętności pod moim okiem. Gwarantuję: zmienisz swoje podejście do LLM! Zapisz się teraz:
👉 https://dataworkshop.typeform.com/to/XSBGKwVV?utm_source=youtube&utm_medium=podcast&utm_campaign=llm&utm_term=4pfEZuw3dtE&utm_content=podcast
Partnerem podcastu jest DataWorkshop.
🔔 Subskrybuj i włącz powiadomienia - Twoja droga do praktycznego ML zaczyna się od jednego kliknięcia: https://www.youtube.com/@DataWorkshop?sub_confirmation=1
👍 Zostaw like, bo więcej lajków = więcej praktycznych treści dla Ciebie!
💬 Co o tym myślisz? Zostaw komentarz! Masz pytanie? Zadaj je - chętnie odpowiem.
🤝 Poznajmy się lepiej! Zaproś mnie do swojej sieci na LinkedIn: https://www.linkedin.com/in/vladimiralekseichenko/
🔊 Zainicjuj rozmowę o ML w firmie, polecając ten podcast. Zainspiruj zespół do wdrażania ML!
🔑 Dowiesz się:
- Jakie są zalety i wady korzystania z ChatGPT przez stronę internetową vs. API OpenAI lub chmury Azure.
- Czym są modele lokalne, self-hosted, open source i offline oraz jakie dają możliwości.
- Jakie narzędzia ułatwiają uruchamianie i dostosowywanie lokalnych modeli, np. Ollama, LM Studio, Jan.ai, llama.cpp, OpenWebUI.
- Jak lokalne modele językowe wpływają na bezpieczeństwo i prywatność danych.
- Jak wykorzystać lokalne modele do transkrypcji audio, analizy obrazu i innych zadań biznesowych.
- Jakie są wyzwania i ograniczenia związane z korzystaniem z lokalnych modeli.
🔥 Instrukcja jak uruchomić lokalnie Bielik v2: https://www.loom.com/share/c5367f48cb2049909b806b91a0f844e2?sid=91d03761-fd33-4d4d-80cc-7e1c4256d43d
🔗 Wspomniane narzędzia
- Ollama: https://ollama.com
- LM Studio: https://lmstudio.ai
- Jan.ai: https://jan.ai
- OpenWebUI: https://openwebui.com
- llama.cpp: https://github.com/ggerganov/llama.cpp
- whisper.cpp: https://github.com/ggerganov/whisper.cpp
💬 Podziel się w komentarzach swoimi doświadczeniami z lokalnymi modelami AI. Jakie widzisz zastosowania w swoim biznesie?
🎧 Słuchaj BM wygodnie na Spotify, Apple Podcasts lub Google Podcasts:
📌 https://open.spotify.com/show/3ZUaHommHHZU6b4WJiyV2I
📌 https://podcasts.apple.com/us/podcast/biznes-myśli/id1215290277
📌 https://music.youtube.com/playlist?list=PLWOCRT27Z94XZzwcRI9-ExMyUXeBrF3W_
#llm #ai #machinelearning #llama #datascience #genai #biznesmysli
🎙️ W tym odcinku:
0:32 - Wprowadzenie do świata LLM i ich biznesowego potencjału
5:48 - Publiczny ChatGPT vs bezpieczeństwo danych firmowych
11:46 - Rewolucja open source: modele Llama dorównują komercyjnym rozwiązaniom
17:15 - Ollama i LM Studio: narzędzia do lokalnego uruchamiania AI
24:51 - Jan.ai i trend małych modeli językowych
29:32 - Korzyści z lokalnych modeli AI: zgodność z GDPR i EU AI Act
35:35 - Whisper CPP: lokalna transkrypcja audio bez kompromisów
44:44 - Kontrola nad modelami AI: klucz do sukcesu w biznesie
49:08 - Phi 3.5 od Microsoft: mały model, wielkie możliwości