Модели от лидеров рынка удобны, но дороги и подходят далеко не для всех сценариев использования. Open-source модели развиваются невероятными темпами и сегодня использовать собственную LLM можно даже на макбуке!
В рамках воркшопа мы разберемся:
• В чем суть локальных LLM, и правда ли, что Open Source лучше, чем ChatGPT?
• Как выбрать опенсорс-модель под свои задачи?
• Правда ли, что промпты для open source LLM = промпты для GPT?
• RAG, Fine-Tuning, QLoRa — вот они слева направо. Как увеличить точность выбранной модели?
• Как урезать и файнтюнить Open Source LLM под свои задачи?
🙎♀️ О спикере: Ирина Николаева (https://t.me/@pansy_77), Lead Data Scientist, Руководитель R’n’D-отдела машинного обучения в компании Raft Digital Solutions. У Ирины огромный опыт внедрения различных ML-моделей: от анализа временных рядов и computer vision до высоконагруженных дата-инженерных сервисов.
🧠 Кому будет интересно: всем, кто решает различные задачи с помощью LLM, а также разрабатывает собственные решения.
Презентация доступна по ссылке: https://go.codex.town/workshop_20241404_pdf